首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

存储容量决定了Apple Intelligence

苹果的AI系统Apple Intelligence是今年WWDC最大亮点;变聪明的Siri、各种生成式AI 功能以及整合ChatGPT都让人相当期待。

不少用户抱怨,为何只有A17 Pro与M系列芯片的设备可用?

关键原因在于存储器容量的大小。

Apple Intelligence发布,苹果强调仅限iPhone 15 Pro与配备M系列芯片的Mac或iPad可用;也就是说至少要A17 Pro与M1以上等级的芯片才可支持Apple Intelligence。

由于A16芯片的NPU性能为17万亿次/秒,而M1芯片的NPU性能为11万亿次/秒,所以很明显问题不是出在算力,而是存储容量大小。

因为配备M1芯片的iPad与Mac基础就是8GB开始、iPhone部分只有iPhone 15 Pro才是8GB,A16芯片的iPhone 15则为6GB。

Apple Intelligence会运行30亿参数的大语言模型,而为了减少语言模型占用的空间,将部分数据压缩成2-bit和4 bit的混合形式后需要随时预留0.7-1.5GB的存储空间来进行运算,也就是说目前Apple Intelligence对存储容量的要求约为2GB或是更低。

A17 Pro与M1芯片的8GB存储空间,其中6GB是拿来日常使用、而2GB可拿来给Apple Intelligence;A16芯片就只有6GB,没有多余的空间可以拿来跑Apple Intelligence,因此才无法使用。

微软对AI PC的需求为40 TOPS;而对苹果来说,搭配云端计算,设备端仅需11 TOPS就已足够运行AI应用。

未来Apple Intelligence一定会持续升级(最有可能升级到70亿参数的大语言模型);届时就会需要更大的RAM才能运作,苹果可能会以此作为区分高低阶产品的标准。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OuzfCeqkVEBbNcYTO79Ac27Q0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券