【大公報訊】綜合《華爾街日報》、BBC報道：美國人工智能企業Anthropic一名頂尖研究員考克森（Jacob Coxon）8日宣布離職並退出AI行業。他警告稱，OpenAI與Anthropic均未有採取負責任的態度，正在極速推進具有自我改進能力「超智能」的開發，無異於「拿全人類的生命作賭注」。

現年27歲、專門研究透過讓新模型接收海量數據進行訓練的英國籍研究員考克森透露，他今年較早前離開OpenAI轉投Anthropic，是因為後者以致力於模型安全而聞名。然而，他現在相信，在缺乏政府干預或全行業協調放緩研發速度的情況下，任何私企都無法負責任地開發出通用人工智能（AGI）。他決定離開該公司，原因是自己不願參與全行業競相開發具備自我改進能力的AI系統的熱潮，並擔心這類系統可能會失控甚至毀滅人類。

近期OpenAI與Anthropic部分模型在測試中脫離控制、自主對外發動網絡攻擊，顯示AI系統或已具備自主衍生並向人類隱瞞惡意目標的能力。考克森與超過一千名來自業界的AI研究人員，近日聯署一項聲明，呼籲全球各國政府協調合作，當AI模型具備自我提升能力並需要「剎車」時，能有予以應對的機制。

Anthropic目前未就此事置評。考克森離職正值Anthropic籌備首次公開募股（IPO）之際。該公司尋求高達2萬億美元（約15.7萬億港元）的估值，並在招股時強調其負責任的技術開發理念。