苹果芯片机器学习代码或更易移植至英伟达硬件

文章配图

一个开源项目正尝试通过在苹果芯片Mac上开发并导出至CUDA的方式,降低为英伟达硬件开发机器学习应用的成本。

机器学习领域入门成本高昂,部分原因在于其需要昂贵硬件来实现高速查询处理。虽然英伟达芯片因性能优势备受青睐,但苹果正努力降低开发者使用该硬件的门槛。

据Ycombinator发现,苹果开源机器学习框架MLX正在添加CUDA后端支持。CUDA是英伟达用于显卡图形处理器(GPU)的软件层,同时也被用于处理机器学习等计算任务。

通过为MLX添加CUDA支持,该项目将实现使用MLX开发的代码能够以兼容CUDA的格式导出。

需要明确的是,此次新增的支持功能专门用于将代码从适配苹果的MLX环境导出,使其能在英伟达显卡和服务器硬件上运行。

这并不意味着用户可以将英伟达显卡接入Mac Pro或外置显卡坞在本地运行机器学习应用,也不代表为CUDA编写的机器学习项目能直接在苹果芯片上运行。

对开发者而言,这将提供在苹果芯片Mac上本地编写测试代码,再部署至英伟达CUDA硬件的开发流程。

该项目可能带来显著成本优势。英伟达硬件配置价格昂贵,至少是高端Mac的数倍。

企业无需购置专用英伟达开发设备,可先用苹果芯片进行小规模开发,待投产时再扩展规模,从而节省成本。

另一个优势是MLX项目可在性能远超Mac的CUDA系统上运行。鉴于英伟达硬件在机器学习领域的广泛应用,这也为开发者提供了使用更强硬件的机遇。

仍在开发阶段

该项目标注为”苹果赞助”的进行中项目,表明其获得公司一定支持,但该声明尚未得到独立验证。

虽然后端工作始于3月21日,但目前仍处于开发阶段。

项目首页声明当前多数功能尚未完善,但教程示例已可运行。测试环境为运行Ubuntu 22.04系统和CUDA 11.6的设备。

鉴于项目复杂性,短期内不太可能完全可用。但凭借苹果可能的支持及其对开发者的潜在价值,项目有持续推进的动力。

机器学习研究

考虑到两家公司的历史渊源,让苹果机器学习平台兼容英伟达硬件的项目看似奇特。苹果曾因停止为macOS Mojave提供英伟达驱动支持,导致Mac无法使用外置显卡。

但在机器学习研究领域,两家公司保持着更友好的关系。

去年12月,苹果发布了关于Recurrent Drafter(ReDrafter)的研究成果,这种推测解码方法可加速LLM令牌生成。研究特别说明了如何将ReDrafter移植到英伟达GPU运行。

随着机器学习日益成为现代计算的重要特性,性能优化存在巨大发展动力。

Related Posts

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注