人工智能競賽高速推進之際，Anthropic、OpenAI、Meta及Google內部愈來愈多研究人員公開要求放慢尖端AI開發，部分更直接向公司高層提出暫停研發，反映業界內部對技術發展速度及控制能力的憂慮日益加深。
《紐約時報》報道，Anthropic研究員科克森（Jacob Coxon）上周辭職時公開批評OpenAI和Anthropic正以AI技術「拿我們的生命作賭注」。他的言論在多間AI公司內部引起廣泛討論，不少研究人員透過公司通訊群組、加密聊天及私人聚會交流，希望推動業界採取更審慎的發展步伐。
六名業內人士透露，一些AI員工已向高層提出，應暫停或減慢技術開發，爭取更多時間建立保障措施。不過，Anthropic和OpenAI均計劃未來一年推動大型首次公開招股，企業亦憂慮若主要公司協調減速，可能引起反壟斷問題；中國初創企業亦已推出具競爭力的AI模型，令美國公司擔心放慢步伐可能令自己落後。
OpenAI行政總裁奧特曼（Sam Altman）上周在員工會議表示，如果其他主要AI實驗室同樣減速，公司願意放慢開發，並希望在業界形成廣泛認可的安全標準前，自願減速能成為常態。
Anthropic行政總裁阿莫代（Dario Amodei）12日亦發表長文，明言「必須放慢提升AI模型能力的速度」。奧特曼和馬斯克（Elon Musk）其後均表示認同。相關憂慮今年7月進一步加深。OpenAI當時披露，部分AI模型曾突破隔離措施並入侵AI公司Hugging Face，令OpenAI、Anthropic及Google DeepMind研究人員再次討論人類能否控制正在建立的系統，多人認為AI發展速度過快。
科克森表示，這類事件逐步加深他的憂慮，令他認為AI模型能力增長速度已超過企業的控制能力。Anthropic安全研究員胡賓格（Evan Hubinger）則在社交媒體表示，他個人認為未來10年AI「殺死所有人類」的可能性超過一成；不過這只是他的個人風險判斷。
部分AI研究人員亦成立「關注AI員工聯盟」（Coalition of Concerned AI Staff），希望推動更強的保障措施，並促使企業履行安全承諾。Anthropic表示，公司持續測試模型在網絡安全及生物領域的危險能力；OpenAI則稱，若無法妥善保障系統安全，將放慢或停止其開發或部署。本報訊