OpenAI智能體屢次失控
2026-09-25 05:16:22 大公報
9月16日
OpenAI披露6宗AI智能體和模型出現「意外或令人擔憂」行為的案例，涉及捏造信息、未經授權在網絡上共享文件等。
7月21日
該公司承認，其兩款AI智能體在進行安全測試時「越獄」，入侵開源平台「抱抱臉」。
5月至6月
該公司AI智能體入侵德國網站DseWiki，並對該網站數據進行了超過1.5萬次刪改。
5月11日
該公司AI智能體對軟件服務平台RubyGems發動攻擊，導致後者的系統癱瘓，被迫暫停新用戶註冊長達4天。
大公報整理