毫無疑問,蘋果的 AI 系統「Apple Intelligence」是今年 WWDC 最大亮點;變聰明的 Siri、各種生成式 AI 功能以及整合 ChatGPT 都讓人相當期待。
但極其嚴格的裝置需求也引來不少用戶抱怨,為何只有 A17 Pro 與 M 系列晶片的裝置可用?分析師郭銘琪表示關鍵原因在於「記憶體大小」。
Apple Intelligence 至少需要預留 2GB 記憶體來運作
Apple Intelligence 發布時蘋果就有強調僅限 iPhone 15 Pro 與配備 M 系列晶片的 Mac 或 iPad 可用;也就是說至少要是 A17 Pro 與 M1 以上等級的晶片才可支援 Apple Intelligence。
由於 A16 晶片的 NPU 性能為 17 兆次 / 秒,而 M1 晶片的 NPU 性能為 11 兆次 / 秒,所以很明顯問題不是出在算力,而是記憶體大小;因為配備 M1 晶片的 iPad 與 Mac 基礎就是 8GB 起跳、而 iPhone 部分只有 iPhone 15 Pro 才是 8GB、A16 晶片的 iPhone 15 則為 6GB。
郭銘琪指出 Apple Intelligence 會在裝置端上運行 30 億參數的大型語言模型,而為了減少語言模型佔用的空間,將部分數據壓縮成 2-bit 和 4 bit 的混合形式後需要隨時預留 0.7~1.5GB 的記憶體來進行運算,也就是說目前 Apple Intelligence 對記憶體的要求約為 2GB 或是更低。
簡單解釋的話就是 A17 Pro 與 M1 晶片的 8GB 記憶體,其中 6GB 是拿來日常使用、而 2GB 可拿來給 Apple Intelligence;而 A16 晶片就只有 6GB 記憶體,沒有多餘的空間可以拿來跑 Apple Intelligence,因此才無法使用。
此外,郭銘琪也對 Apple Intelligence 表達了幾點分析與看法:
- 蘋果的 AI 應用至少需要一個 30 億參數的語言模型,且所需的記憶體大小取決於這個模型的壓縮方式。
- 微軟對與 AI PC 的需求為 40TOPS;而對蘋果來說,搭配雲端計算(Private Cloud Compute),裝置端僅需 11TOPS 就已足夠執行 AI 應用。
- 未來 Apple Intelligence 一定會持續升級(最有可能升級到 70 億參數的大型語言模型);屆時就會需要更大的 RAM 才能運作,蘋果可能會以此作為區分高低階產品的標準。
Apple Intelligence 秋季才會推出測試版,率先支援英文使用
Apple Intelligence 測試版會在秋季時隨 iOS 18、iPadOS 18、macOS 15 一起推出,率先支援英文使用;部分功能、軟體平台和其他語言則會在明年陸續推出;屆時只要將設備更新至 iOS 18、iPadOS 18、macOS 15 並且將 Siri 和裝置語言設定為英文 (美國) 即可免費體驗 Apple Intelligence。
更多 WWDC 相關資訊》
- iOS 18 Beta 測試版下載更新教學,2 種方式帶你搶先體驗新功能
- macOS 15 支援機型、可以升級的 31 款機種清單一次看
- iPadOS 18 支援機型、可以升級的 20 款機種清單一次看
- iOS 18 支援機型、可以升級的 28 款機種清單一次看