美國人工智能（AI）企業Anthropic日前披露，該公司研發的最新大模型Claude Mythos，能夠自主識別主流軟件系統中大量此前未被發現的安全漏洞，並能開發出相應攻擊手段。此情況在國際金融界引發高度憂慮。金融界高官警告，Claude Mythos對全球銀行系統構成威脅。
來自各國的財政部長、央行行長、監管官員近日齊聚華盛頓，出席國際貨幣基金會（IMF）和世界銀行春季會議，會議討論焦點集中在Claude Mythos。他們對這款功能強大的AI模型表示嚴重關切，擔心破壞金融體系的安全。據BBC報道，英倫銀行的行長貝利表示，全球監管機構需迅速評估Mythos模型可能對金融系統構成的潛在網絡安全威脅。英倫銀行稱，正通過情境分析和模擬測試，評估Mythos可能為金融系統帶來的風險。
Mythos號稱在發現軟件漏洞方面展現出極強能力，已識別出包括主流操作系統和網絡瀏覽器在內的常用軟件程序中的「數千個」漏洞，其中一些漏洞相當隱蔽，難以被常規手段檢測到，且這些漏洞絕大多數尚未修復。它發現的最早一個漏洞可追溯至27年前，另外一個在視頻處理工具中發現的漏洞，即使在自動化測試工具運行了500萬次後，仍未被檢測出來。
Anthropic稱，Mythos是一款通用模型，並非專門針對網絡安全訓練，但其強大的自主編碼和推理能力，使其具備發現網絡安全漏洞的突出能力。在沒有人工指導的情況下，它能夠「完全自主地識別漏洞，並開發出許多相關攻擊手段」。該公司承認，這種能強化網絡防禦的能力，同樣可能被攻擊者利用。測試顯示，Mythos能夠構建複雜的漏洞利用鏈，實施可繞過多層安全防護的多步攻擊，甚至自主實現了權限提升技術。「鑑於AI技術的發展速度，這種能力或將迅速擴散，甚至可能落入並非致力於安全應用的主體手中。這對經濟、公共安全和國家安全都可能造成嚴重後果。」
Anthropic在發布Mythos前，已向美國政府及金融等關鍵行業利益相關方通報了該模型的相關能力。美國財長貝森特和美聯儲主席鮑威爾已召集花旗集團、摩根士丹利、美國銀行、富國銀行、高盛等美國主要金融機構負責人開會，通報這款新模型可能帶來的網絡安全風險。Anthropic表示，考慮到Mythos的潛在風險，暫時不會面向公眾發布這款大模型。
本報訊
