苹果AI被存储卡脖子?

苹果的端侧AI似乎是“卡在脖子里”储存的。

在AIGC诞生并迅速风靡全球的两年间,苹果显然来的有点晚。现在这位已故的“老大哥”终于交出了自己的“AI”工作——不是人工智能,而是苹果智能。

InDesign CS5中的对象效果有几种

对于苹果的AI性能,大多数人认为是“创新,但不多”。WWDC当天,苹果美股不涨反跌近2%,但第二天股价“收复失地”,一举上涨逾7%,再创历史新高。

但并不是所有的苹果设备都能搭载苹果智能。在苹果的“精准刀法”下,iPhone中只有15 Pro/Pro Max支持AI功能,iPad和Mac中只有M1芯片或更高级的芯片型号支持。

这一次,DRAM成为了苹果AI的关键和瓶颈。

知名分析师郭明指出,搭载A16的iPhone 15无法支持苹果智能,但M1机型可以。可以推断,支撑苹果智能目前端到端模式的关键应该是DRAM大小,而不是AI计算能力。

M1的AI计算能力约为11TOPS,低于17TOPSA16的。但后者的DRAM是6GB,低于M1的8GB。所以目前的Apple Intelligence端侧AI模型大约需要2GB或者更少的DRAM。

对DRAM的需求可以用另一种方式来验证。苹果智能采用设备端3B大模型。压缩后需要预留0.7-1.5GB左右的DRAM来随时运行苹果智能的端侧大模型。

苹果未来势必会进一步升级自己的终端人工智能,郭明预计最有可能升级到7B型号,这将需要更大的DRAM来运行。苹果未来是否会以此作为高低端机型的产品分离策略,还有待观察。

三星note 2开箱

AI手机呼吁更大的“存储”

长期以来,苹果一直试图削弱iPhone中DRAM的存在感,历代iPhone的DRAM升级也可以称之为“小气”。张怀兵原型是谁

在现有的iPhone系列中,iPhone 15 Pro/Pro Max是唯一的8GB DRAM型号。另据郭明之前的分析,iPhone 16系列将延续8GB DRAM,这也将限制苹果端到端大机型的发展。

vivo副总裁黄桃之前提到,大机型对手机运行和存储性能的要求至少是8G——但那是以前的事了。AI大模型发展速度惊人。目前8GB似乎不够用。

作为苹果的老对手,谷歌此前推出了以AI为主要卖点的新机型Pixel 8系列。不过谷歌后来特别声明,最新的AI模型Gemini只能在Pixel 8 Pro上运行,拒绝在Pixel 8上运行Gemini。

这两款的基本硬件规格大致相同,最大的区别之一就是空之间的存储空间。谷歌解释说Pixel 8 Pro有12GB DRAM,非常适合运行Gemini Nano,可以充分释放潜力;不过Pixel 8只有8GB DRAM。如果贸然开启该功能,可能会影响正常的用户体验。

IDC指出,16GB RAM将成为新一代AI手机的基本配置。

联发科无线事业部AI技术高级经理庄认为,130亿参数的机型需要13GB的存储容量(INT8)才能运行,而智能手机需要4GB的存储空才能运行Android操作系统,6GB的存储空才能相对流畅地运行其他手机app。AI模型端侧推理部署的手机存储容量应达到23GB,以实现更好的用户软件使用。

未经允许不得转载:科技让生活更美好 » 苹果AI被存储卡脖子?