本報訊
多年對手因AI找到合作契機,蘋果與Meta15日宣布攜手,讓開發者能在高階Mac電腦上執行Meta新推出的開放權重模型Muse Spark Open,直接在自己的設備上寫程序、分析視頻及執行AI代理任務,不必將模型運算交給雲端。
鉅亨網報道,Muse Spark Open採用混合專家架構,擁有8160億個參數、100萬token上下文視窗,主要針對程序開發與AI代理任務設計。開放權重代表開發者可下載模型參數,在自己的硬件上執行,但仍須遵守授權條件。Meta表示,這款模型允許有限度的商業使用。為配合合作,蘋果更新MLX機械學習工具,讓模型能跨多台Mac分攤運算,並公布相關技術文件與芯片效能測試。開發者可從Hugging Face等平台下載適用版本,不必再為蘋果芯片額外調整設定,模型也已針對Mac硬件優化執行速度。Meta AI主管汪滔表示,許多強大的開放權重模型體積太大,不適合多數個人電腦,但Mac Studio提供的記憶體容量,讓運行Muse Spark Open變得可行。
要運行這款模型,使用者須串聯2至4台Mac Studio,整組設備合計至少具備1TB記憶體,並非一般單台Mac就能負荷。目前搭載M5 Ultra芯片與256GB記憶體的Mac Studio,每台售價至少10799美元;配備512GB記憶體的版本則預定本月稍晚推出。以目前配置計算,整套硬件成本超過4萬美元,入手門檻並不低。不過,對長期需要大量算力的應用程序開發者或企業而言,租用相近規模的雲端運算資源,每月可能花費數千美元,因此自購設備仍可能隨使用時間拉長而回本,實際效益則取決於使用需求。Mac的優勢之一,是芯片之間可共用大容量記憶體,搭配MLX串聯多台設備,處理單機難以容納的模型。
蘋果與Meta長年關係緊張,尤其蘋果2021年推出隱私政策變更,限制廣告追蹤能力後,雙方衝突加深。Meta曾估計,這項改變將使其2022年營收減少約100億。汪滔表示,雙方如今找到具有建設性的合作方式,並提到曾任蘋果主管的Meta研究員格羅斯,是促成合作的重要人物之一。對Meta而言,這也是去年重整AI團隊後,第二款開放權重模型。公司8月先推出較小型的Muse Glimmer,本周稍早則發表專有模型Muse Wonder。

