人工智慧（AI）殺光人類，乍聽像是科幻電影的情節，未來卻恐怕會真實上演？美國財經媒體《CNBC》報導，AI研究員考克森（Jacob Coxon）週二（8日）從Anthropic離職，並痛批老東家及對手OpenAI一頭扎進AI競賽，毫無責任感。這篇貼文一出，立刻引發網路熱議，他在Anthropic的前同事胡賓格（Evan Hubinger）更是發文警告，未來十年AI消滅人類的機率大於10%。
考克森先後曾在OpenAI與Anthropic任職，他在X平台發文，直言自己所以辭職，是憂心兩家公司「在賭我們的命」，並感嘆那些瘋狂研發AI的人，也「深信到了2030年它們會殺了我們所有人」。考克森寫道：「別低估這個技術的力量。很快它們就會變成超越人類的系統，能夠一夜間駭進任何東西、改變任何領域，並獲取權力與資源。」
考克森這篇貼文發布後，獲得超過70萬次瀏覽，側面凸顯了矽谷內部關於能否安全發展、控制AI的長年爭論。正當OpenAI與Anthropic競相尋求史詩級IPO，且不斷推出更為先進的AI模型，許多研究員轉而呼籲雙方應協調將開發速度放慢。OpenAI首席科學家帕霍基（Jakub Pachocki）週日（6日）就在部落格示警，至今仍無AI公司「在解決AI對齊與監控兩項問題方面，取得讓人滿意的進展，讓人可放心繼續全力衝刺」。文中所說的「對齊」（alignment），是指開發者能確保AI行事符合人類的價值觀與意圖。帕霍基希望，「直到我們建立共同的安全標準之前，自行將開發放慢會是越來越普及的做法」，而AI開發由跨國協調，也能成為各國政府的優先事項。
業內擔心「遞迴式自我改進」（recursive self-improvement）的研究員，同樣對考克森發文深感共鳴。所謂「遞迴式自我改進」，是指AI能夠不經人類干預就設計出下一代AI。Anthropic與OpenAI都曾警告，若該技術成真，人類恐更容易失去對AI系統的掌控。話雖如此，考克森毫不留情地批評，「沒有一家公司帶有責任感地行事」，「它們都在直直衝往能夠自行進步的超級人工智慧」。
Anthropic的對齊部門負責人胡賓格，週二晚間也呼應考克森的貼文。他在X平台表示：「雅各（考克森）是對的，我們都深信AI會殺光人類！我個人認為，未來十年這件事實現的機率大於10%。」但他同時不忘強調Anthropic「正盡其所能」，只是尚未找到解決超級人工智慧對齊問題的方案，並坦言不確定是否正朝這目標邁進。
三立新聞網提醒您：
內容僅供參考，投資人於決策時應審慎評估風險，並就投資結果自行負責。
投資一定有風險，基金投資有賺有賠，申購前應詳閱公開說明書。
