个人中心
登出
中文简体
返回
登录后咨询在线客服
回到顶部
WWDC 2024:您会为苹果这份AI答卷打几分?
浏览 98万 内容 237

苹果如何定义设备端人工智能和未来趋势——从分析苹果情报支持的模型的角度来看

苹果如何定义设备端人工智能和未来趋势——从分析苹果情报支持的模型的角度来看
$苹果(AAPL.US)$ 配备 A16 芯片的 iPhone 15 无法支持 Apple Intelligence,但配备 M1 的机型可以。因此,可以得出结论,支持当前苹果智能设备端模式的关键是DRAM规格,而不是计算能力(TOPS)。

M1 的人工智能计算能力约为 11 TOPS,低于 A16 的 17 TOPS。A16 有 6GB 的 DRAM,低于 M1 的 8GB。因此,当前的 Apple Intelligence 设备端 AI LLM 需要大约 2GB 或更少的 DRAM。

对DRAM的需求可以通过另一种方式来验证。Apple Intelligence 使用设备端的 3B LLM(应该是 FP16,因为 M1 的 NPU/ANE 很好地支持 FP16)。压缩(使用2位和4位混合配置)后,需要随时保留大约0.7-1.5GB的内存才能在设备上运行Apple Intelligence LLM。

从上述分析中,可以得出以下进一步的思考和结论:

1。要使用 AI 增强现有的设备端应用程序,必须部署至少一个设备上的 3B LLM,在此基础上,DRAM 规格由压缩方法确定。
2。 $微软(MSFT.US)$ 认为人工智能电脑的关键规格是40 TOPS的计算能力。但是,对于集成了云人工智能(私有云计算)的苹果来说,11 TOPS的设备端计算能力足以开始提供设备上的人工智能应用程序。
3.消费者可能会觉得购买微软的人工智能电脑令人困惑(在购买前计算它是否达到40 TOPS),而苹果则直接告诉消费者哪些型号可以支持苹果智能。无论设备上的人工智能应用程序是否满足消费者的需求,苹果从一开始就具有明显的销售优势。
4。将来,苹果情报的设备端人工智能肯定会升级(很可能升级到7B LLM),这将需要更大的DRAM才能运行。值得一提的是,苹果是否会使用这种策略来区分高端和低端机型。
5。用户体验是否像苹果声称的那样好还有待观察( $谷歌-A(GOOGL.US)$ 例如,双子座曾在促销活动中夸大其词)。
6。三星S24的人工智能功能有限,微软的人工智能电脑仍然让消费者感到困惑。苹果已经成功定义了设备端人工智能(至少消费者已经意识到苹果人工智能设备丰富的人工智能功能和卖点),这将加速竞争对手的模仿和追赶,从而推动设备端人工智能相关行业的快速增长。
免责声明:社区由Moomoo Technologies Inc.提供,仅用于教育目的。 更多信息
11
1
+0
原文
举报
浏览 6万
评论
登录发表评论