AI公司Anthropic核心研究員考克森（Jacob Coxon）出於對人工智能安全的擔心，於8日晚宣佈離職。他警告說，全球頂尖AI公司正競相開發能夠「自我改良」的人工智能，直言AI在10年內有可能毀滅人類。佛蒙特州無黨籍參議員桑德斯（Bernie Sanders）9日在社媒稱，將提出法案暫停AI研發，並禁止超級智能。
綜合美聯社、Politico網站報道，專長模型訓練的考克森表示，過去3年他在Anthropic與OpenAI兩家公司從事研究工作。兩家企業一心擊敗彼此與全球競爭者，研發最先進的模型，對安全議題的重視卻不足。今年夏天，兩公司先後發佈消息，稱其模型突破測試環境，未經授權存取真實電腦系統信息。這讓大眾擔憂模型會脫離控制、執行其他更具傷害性的任務。
考克森表示，Anthropic 與OpenAI「正直奔可自我改良的超級智慧，拿我們的生命豪賭。不要低估這項技術的力量，它們很快就會擁有超越人類的能力，可以入侵任何系統、一夜間徹底翻轉任何領域，並取得真實的權力與資源。 」 他的貼文一夜之間有超過1億人次閱覽。考克森強調自己的觀點並非「行銷噱頭」。兩名現任Anthropic員工在其貼文下回應，認同他的看法。Anthropic 負責確保AI符合人類價值與倫理的科學家休賓格（Evan Hubinger）稱：「我們真心相信AI有可能消滅全人類！我個人認為，未來10年內發生這件事的機率超過 10%。」
Anthropic與OpenAI都在積極籌備首次公開募股，也都試圖超越中國AI企業的研發進度，特朗普政府也十分希望贏下這場競賽。
本報訊
