【大公報訊】綜合法新社、美國Axios新聞網報道：美國11月3日國會中期選舉前夕，人工智能（AI）安全再敲警鐘。美國AI企業Anthropic旗下模型Claude日前被曝出在未經人工授權的情況下，擅自取得佐治亞州的選民信息與投票數據。

Anthropic公司發言人說，Claude執行一項內部統計項目時，在未接到人工指令的情況下，自行申請了訪問令牌，繞過付費訪問限制，查詢數據看板，獲取了佐治亞州的選民信息與投票統計數據。公司強調Claude未侵入選民登記系統或篡改投票紀錄，並已採取措施防止類似情況重演。報道未說明Claude擅自取得的數據是否與即將舉行的中期選舉直接相關。

一名知情人士說，Anthropic數周前已將此事通報佐治亞州務卿辦公室和白宮。白宮官員曾敦促佐治亞州務卿辦公室盡早公開此事，但相關要求未獲回應。Anthropic本月初就曾發現Claude出現這種未經授權的行為，當時該公司表示這些事件「對現實世界的影響微乎其微」。

法新社26日披露，追蹤美國選舉的「衛斯理媒體項目」組織稱，已在全國範圍內識別出220個至少部分使用AI生成的政治廣告，總耗資超過1.37億美元。

此類廣告多用於抹黑對手，且普遍未標明係AI生成。該組織說，這些AI製作的廣告中高達81%由共和黨陣營資助，民主黨陣營佔12%。英國戰略對話研究所指出，這是美國首場AI遍布主要社媒平台的選舉。近期一項調查中，73%的受訪者認為，政治競選活動中不應使用AI生成的圖像或視頻。