AWS新產品琳瑯滿目 攜手英偉達打造AI工廠

亞馬遜雲端運算服務和英偉達合作,推出AI工廠。Amazon Web Services

亞馬遜雲端運算服務研發Trainium3晶片,專門用於訓練AI。Amazon Web Services

電商平台亞馬遜旗下「亞馬遜雲端運算服務」(AWS)本周一連四天進行年度科技會議AWS re:Invent,帶來源源不絕的新產品消息。

隨著AI熱潮持續,AWS推出一款稱為Trainium3的AI訓練晶片,還有一個採用這款晶片的AI系統UltraServer。這款升級後的晶片具有一些令人印象的規格,包括進行AI訓練和推理的效能提升最高4倍,同時節省約40%能源。

AWS還預告該公司正在開發Trainium4,能與晶片巨擘英偉達(Nvidia,又名輝達)的晶片相容。

同時,亞馬遜宣布推出「AI工廠」(AI Factories),讓大企業和政府部門在它們自家數據中心內運行AWS AI系統。該系統透過與英偉達的合作,包含了英偉達和AWS的技術。使用該晶片的公司可以選擇配備英偉達的GPU,也可選擇亞馬遜的AI晶片Trainium3。

該系統是亞馬遜解決數據主權(data sovereignty)的方式,即是政府部門和其怹公司使用AI時仍需控管其數據,而不會共享的需求。「AI工廠」將使用AWS自主開發的網絡、儲存、數據庫和保安,可存取AI模型選擇和服務管理的全受管服務Amazon Bedrock,以及模型建置和訓練工具的AWS SageMaker AI。

AWS推出三款稱為「前沿代理人」(Frontier agent)。其中一款叫做可以寫程式碼的「Kiro自主代理人」,旨在學習一支同類團隊如何工作,讓它自行運作數小時以至數天。另一款代理人負責處理程式碼審查等保安程序。第三款則負責「開發維運」(DevOps)工作,例如防止推送新程式碼到生產環境時發生意外。這些代理人的預覽版現已推出。

AWS的Nova AI模型系統推出四個新AI模型,其中三個是文字生成,另一個是創造文字和圖像。另外推出的新服務Nova Forge,能讓AWS雲端服務客戶可以存取預先接受訓練、中期訓練和後期訓練的模型,然後使用其專屬資料來加強這些模型的訓練。AWS稱Nova Forge的主要賣點是靈活性和客製化。本報訊

科技-三藩市版