被譽為「人工智能教父」的諾貝爾獎得主辛頓週三接受英國廣播公司訪問時警告，人工智能在十年內毀滅人類的機率達百分之十並非不合理，呼籲全球盡快制定監管法規。
本文核心內容：
· 發生地點：英國廣播公司《新聞之夜》節目
· 關鍵實體：人工智能教父辛頓、Anthropic公司、OpenAI
· 核心數據：辛頓認為人工智能毀滅人類的機率達百分之十
· 核心數據：辛頓將災難發生的時間表從三十至五十年縮短至十年或更短
人工智能教父辛頓警告AI毀滅風險
被譽為「人工智能教父」的辛頓（Geoffrey Hinton）週三在英國廣播公司（BBC）的《新聞之夜》（Newsnight）節目中表示，很難估計人工智能（Artificial Intelligence）毀滅人類的機率，但絕對不是零。他指出，百分之十的機率似乎是一個合理的估計，但沒有人真正知道如何給出一個明智的數字。
《新聞之夜》主播德比郡（Victoria Derbyshire）對辛頓的言論感到驚訝。辛頓的觀點與Anthropic頂級安全研究員的評估不謀而合，該研究員認為人工智能在未來十年內殺死所有人類的機率大於百分之十。辛頓解釋，由於社會從未見過可能很快比人類更聰明的技術，因此很難估計確切數字。他強調，說只有百分之一的機率是非常愚蠢的。
災難時間表縮短 科技巨頭遭控賭上人類性命
這位諾貝爾獎得主明確表示，發生此類災難的時間窗口已經縮小。他過去認為需要三十到五十年，後來縮短到十到二十年，現在則認為可能是十年甚至更短。至於災難如何發生，辛頓提到了從網絡攻擊到人工智能開發致命病毒等各種風險。儘管他未說明時間表壓縮的原因，但Anthropic與OpenAI等領先的人工智能公司已投入數十億美元擴展模型，近期發布的產品在短短幾個月內就展現了顯著的改進。
辛頓發表此番言論之際，前OpenAI員工、Anthropic研究員考克森（Jacob Coxon）在公司備受期待的首次公開募股前宣佈辭職。考克森在社交平台X上發文指控，人工智能巨頭正在拿人類的生命冒險。他透露，開發人工智能的人真誠地相信它可能在十年內殺死所有人，這並非行銷噱頭，許多高管與資深研究員私下都表達了恐懼。
Anthropic對齊科學負責人休賓格（Evan Hubinger）在X上回應考克森，證實他們確實相信人工智能可能殺死所有人類，並個人認為未來十年內機率大於百分之十。休賓格補充，目前模型的風險很低，問題在於遞迴自我改進（RSI）產生的超級智能，其發展速度比預期更快。辛頓重申全球監管的呼籲，強調各國在防止人工智能取代人類的利益上是一致的，最終將會合作，問題在於是否來得及。
來源：雅虎科技
封面來源：（檔案照片）2015年3月25日，研究人工智慧應用神經網路的電腦科學家傑弗瑞辛頓在Google位於加州山景城的總部拍攝肖像照。美聯社