敬汉卿2024年10月13日发布:明珠不再蒙尘，苹果终于意识到Mac才是最好的AI PC

苹果放弃探索了十年之久的电动汽车项目、全面转向AI，无疑是最近几天科技圈的头版头条。近日在苹果公司举行的年度股东大会上CEO蒂姆·库克表示，该公司在人工智能方面“投入了大量资金”，并将于今年晚些时候宣布一项重大公告。此外他还谈及，“所有由苹果芯片驱动的Mac都是非常强大的人工智能机器。事实上，目前市面上用于人工智能的电脑，没有比Mac更好的。”

“生成式人工智能具有令人难以置信的突破潜力，将为用户在生产力、解决问题等方面带来变革性的机会”，这般表态与库克一贯的谋定而后动的惯例俨然也形成了鲜明的对比。其实也不怪他一反常态，毕竟目前苹果力推的“空间计算”概念也遇到了“既生瑜何生亮”的难题，OpenAI所引领的AI狂潮几乎将所有注意力给吸走了。因此现在的情况，是在AI领域苹果俨然已处于落后状态。

且不提作为领军者的OpenAI，谷歌有Bard、Gemini，Meta有开源大模型LLaMA 2，微软有Copilot，亚马逊有Amazon Q，而苹果则只有一个在传闻中的生成式AI模型“AppleGPT”。其号称拥有2000亿参数，在语言理解和生成方面具有高度复杂性和强大的解析力，但AppleGPT毕竟还没有落地。所以如今的现实，是从2022年的Stable Diffusion引爆生成式AI这一概念以来，接近两年时间苹果在这个赛道几乎是毫无建树。

一手好牌打的稀烂，这似乎是如今苹果在AI领域最恰当的形容。苹果的统一内存架构则是该公司在AI赛道最强的一张牌，库克说目前市面上用于人工智能的电脑没有比Mac更好的，其实并非吹牛，AI PC这个概念的旗手原本应是苹果才对。众所周知，算力就是AI时代的“石油”，英伟达在这两年一飞冲天、达到市值接近2万亿美元历史顶点，无疑就是因为他们掌握了算力供给。

然而在算力之外，一个极少被提及的概念“内存墙”，却是另一个影响大模型性能的主要因素。而参数量则是大模型性能的基础，参数越大、性能才能越高，以至于大模型相关厂商在参数规模上可以说是竞相大放卫星。可随着AI大模型参数量的不断增长，内存不够的问题也已经逐渐凸显，“CUDA out of memory”这样的报错提示已经成为了如今AI从业者最不愿意看到的代码。

“CUDA out of memory”是指使用CUDA进行计算时，GPU内存不足所导致的错误，这个问题往往出现在需要处理大量数据的时候，这也是为什么在购买用于AI的GPU时，显存同样也是最为核心的指标之一。例如伯克利AI实验室的学者Amir Gholami就曾表示，未来内存墙将是比算力更大的瓶颈。

Amir Gholami的研究团队发现，Transformer架构的大模型尺寸以每两年410倍的速度疯狂增长，而GPU作为AI算力的基座，其内存容量增长速度却只有每两年2倍。因此也使得GPU内存容量严重制约了可训练的模型规模和算力提升速度，并成为了阻碍AI技术发展与落地的重要瓶颈。如今GPU显存只有8GB的水平，那么无论开发者如何进行优化，想要容纳一个千亿参数的大模型显然也是巧妇难为无米之炊。

为此，英伟达给出的解决方案是构建GPU集群来提供聚合的更大内存。比如说目前AI大模型的“硬通货”DGX H100系统，其核心是8个H100 GPU，一共可以提供640GB的GPU内存。然而这个方案的问题在于成本高昂，售价更是高达30万美元以上，且无法逾越GPU间的“通信墙”，也就是数据交换时、由于访问带宽和延迟的限制导致性能下降。

作为英伟达在GPU领域的老对手，AMD的策略则是弱算力+大内存。AMD此前在“Advancing AI”活动上推出于大模型训练和推理的MI300X GPU时，苏姿丰博士就特别强调到，“MI300X的使命是缓解大模型分布式训推所面临的内存制约和互连制约”。

与英伟达的H100相比，MI300X的高带宽内存密度最高可达H100的2.4倍，高带宽内存带宽最高可达H100的1.6倍。也就是说，MI300X能运行比H100更大的AI模型。

这样看来，苹果的统一内存架构与AI大模型岂不是天作之合，Apple Silicon芯片甚至都不用重新设计，直接就能作为推理卡使用。当其他厂商还在苦苦寻找如何将端侧大模型部署在PC上，以期让AI PC名副其实时，苹果却对已经打好地基的端侧AIGC生态“不屑一顾”。君不见过去两年如火如荼的AI PC概念，苹果此前从来就没有将Ma与其联系到一起。

好在，苹果方面终于还是意识到了搭载自研芯片的Mac在AI运算能力方面的优势，只不过这一天到来似乎有点晚。从某种意义上来说，苹果更像是在亡羊补牢。至于说为什么明明已经拥有了现实基础，相关概念也得到了业界的追捧，苹果早前却一直无动于衷。当然是因为今天的苹果与当初推出Apple II、iPhone 4的苹果，不是一个企业了。