Mac 跑 AI 模型更方便了,Tiny Corp 称苹果已为英伟达、AMD 外置显卡开绿灯
背景
长期以来,苹果的Mac设备因其封闭的硬件生态系统和对图形处理单元(GPU)的限制,在AI模型训练和运行方面面临一定挑战。由于M系列芯片主要以集成显卡为主,其在处理大型AI模型时的性能受到限制,因此很多AI开发者和研究人员更倾向于使用配备高性能独立显卡的Windows或Linux平台。
然而,随着AI大语言模型(LLM)需求的增加,越来越多用户希望在Mac平台上进行类似操作。为此,一些软件公司开始尝试开发绕过硬件限制的解决方案。
Tiny Corp 的突破性进展
Tiny Corp 近日宣布,其自主研发的GPU驱动软件已通过苹果的审核。用户现在可以将英伟达(NVIDIA)或AMD的外置显卡(eGPU)连接至Mac设备,并利用这些高性能显卡运行AI模型,尤其是大型语言模型。
与传统依赖GPU厂商提供驱动的方式不同,Tiny Corp 的方案是完全独立开发的,专注于AI计算优化,而非游戏或其他图形密集型任务。据该公司表示,驱动安装流程已被大幅简化,即使是非技术用户也能轻松完成配置。
此外,Tiny Corp 强调,该软件已通过苹果官方认证,意味着用户在使用过程中将不会遇到系统兼容性问题或被macOS阻止运行。
技术实现方式
Tiny Corp 的驱动软件主要通过以下方式实现对eGPU的支持:
- 绕过系统限制:macOS过去对非官方驱动有严格的限制,Tiny Corp 的方案在不破坏系统安全机制的前提下实现了兼容。
- 定制化AI优化:驱动特别优化了CUDA和OpenCL等AI训练常用的计算框架,使NVIDIA和AMD显卡在处理大模型时更加高效。
- 外接GPU支持:用户可以通过Thunderbolt接口连接外置显卡设备,无需打开设备进行内部改装,极大提升了使用灵活性。
值得注意的是,虽然驱动由Tiny Corp开发,但其性能和稳定性仍需市场检验。部分开发者反馈,目前仅支持部分型号的eGPU,兼容性仍在逐步扩大中。
对AI开发者的影响
这一进展为Mac用户,尤其是AI研究人员和开发者,带来了显著利好:
- 开发者可以更高效地运行大语言模型(如Qwen、LLaMA、ChatGLM等),提升本地训练和推理速度。
- 降低了使用成本:无需更换设备,只需连接eGPU即可实现接近专业工作站的AI运算能力。
- 推动AI生态多元化:Mac平台用户数量庞大,苹果开放eGPU支持有助于吸引更多开发者在macOS上构建AI应用。
此外,苹果用户群体中设计师、内容创作者比例较高,结合AI能力后,有望在图像生成、视频处理、语音合成等创意领域产生更多创新应用。
未来展望
尽管Tiny Corp的方案仍处于初期阶段,但这一突破标志着苹果对第三方硬件的态度正在软化。如果苹果未来继续开放更多底层接口,甚至与NVIDIA或AMD达成合作,Mac平台的AI性能将有望进一步提升。
目前,Tiny Corp表示正在与多家AI模型厂商合作,以优化其驱动在不同框架下的表现,并计划推出更完整的开发者工具包。与此同时,苹果方面尚未正式回应此事,但这一改变无疑为其设备在AI领域打开了新的可能性。