苹果的AI系统Apple Intelligence是今年WWDC最大亮点;变聪明的Siri、各种生成式AI 功能以及整合ChatGPT都让人相当期待。
不少用户抱怨,为何只有A17 Pro与M系列芯片的设备可用?
关键原因在于存储器容量的大小。
Apple Intelligence发布,苹果强调仅限iPhone 15 Pro与配备M系列芯片的Mac或iPad可用;也就是说至少要A17 Pro与M1以上等级的芯片才可支持Apple Intelligence。
由于A16芯片的NPU性能为17万亿次/秒,而M1芯片的NPU性能为11万亿次/秒,所以很明显问题不是出在算力,而是存储容量大小。
因为配备M1芯片的iPad与Mac基础就是8GB开始、iPhone部分只有iPhone 15 Pro才是8GB,A16芯片的iPhone 15则为6GB。
Apple Intelligence会运行30亿参数的大语言模型,而为了减少语言模型占用的空间,将部分数据压缩成2-bit和4 bit的混合形式后需要随时预留0.7-1.5GB的存储空间来进行运算,也就是说目前Apple Intelligence对存储容量的要求约为2GB或是更低。
A17 Pro与M1芯片的8GB存储空间,其中6GB是拿来日常使用、而2GB可拿来给Apple Intelligence;A16芯片就只有6GB,没有多余的空间可以拿来跑Apple Intelligence,因此才无法使用。
微软对AI PC的需求为40 TOPS;而对苹果来说,搭配云端计算,设备端仅需11 TOPS就已足够运行AI应用。
未来Apple Intelligence一定会持续升级(最有可能升级到70亿参数的大语言模型);届时就会需要更大的RAM才能运作,苹果可能会以此作为区分高低阶产品的标准。
领取专属 10元无门槛券
私享最新 技术干货