當AI生成技術以前所未有的速度重塑世界，它也猶如一把「雙刃劍」，不僅帶來了效率提升，同時也帶來了數據隱私、信息安全和倫理道德等挑戰。3月15日，央視「3·15」晚會曝光AI大模型遭「投毒」亂象：當前，GEO（生成式引擎優化）服務商通過自媒體大量發布軟文「投餵」AI大模型，以此操縱搜索推薦結果、灌輸虛假信息，誤導用戶。對於電商平台詐騙及深度偽造肉眼難辦等問題，不少業界人士提議，「用AI打敗AI」是創新監管路徑之一。\大公報記者 王莉

綠色植物電商經營者潘女士近期遭遇了多起消費者利用AI偽造瑕疵圖片，以騙取「僅退款」（賣家直接退款而消費者毋須退貨）的事件。

有心人開班收費 傳授騙退款「竅門」

「一位海棠花盆栽買家在收到貨後，給我發來一張花苞都掉了的圖片，堅持退款且不退貨。我還多長了一個心眼，讓她再拍個視頻給我，沒想到視頻裏確實花苞也都掉了。」她最後用AI檢測工具才發現圖片和視頻都是AI生成的，於是她拒絕退款並提交檢測報告，但平台介入後仍判定買家勝訴。她無奈地說，「現在AI技術太強了，再不好好管的話，我們商家真的只能啞巴吃黃連了。」

此類情況並非個例，甚至在網上還出現了「羊毛黨」購物經驗分享，更有甚者表示支付288元（人民幣，下同）學費即可傳授「僅退款」竅門，並宣稱一個賬號約可成功退款30次。為證明效果，還有商家通過展示學員「累計獲利2000元」成果來獲客。然而，經記者親測，僅需使用目前市場上最常用的免費AI軟件，上傳一張新鮮橘子的照片後，再簡單輸入「橘子爛了」四個字，新鮮橘子就被P上了霉斑。

長期從事網絡新經濟和消費者權益保護工作的浙江佑平律師事務所執行主任俞起表示，此類行為具有主觀上欺詐的故意，屬民事欺詐，若騙取金額達到一定標準，或需承擔刑事責任。同時，他也提到，監管部門、電商平台以及電商經營者都可利用AI技術進行「反制」。「監管部門應利用技術手段強化對違法行為的監測、識別和打擊力度。平台除對圖片、視頻等進行AI檢測外，也可利用大數據監測異常退款模式。商家同樣可以借助AI工具快速處理和分析收到的圖片證據，也可用於輔助製作說明材料，向平台提交更具說服力的申訴。」

金融界訓練AI 應對偽造文字語音

多組機械臂在實驗室中24小時連軸轉。一組配備手機攝像頭的機械臂不停伸縮、對焦，反覆識別着眼前的圖片，而另一組機械臂則精準地舉起圖片，穩穩遞到攝像頭前。計算機實時記下每一次識別的結果，再把這些數據「餵給」AI算法，讓它在一次次實戰中快速成長，以更好地識別出不同AI欺詐的破綻。這不是科幻場景，而是螞蟻數科正在金融領域訓練AI對抗非法AI的場景。

「以往攻擊方式通常是用圖像或視頻處理軟件進行修改操作，如今則主要是通過AI生成的注入式攻擊，表現形式為用一張臉換成另一張臉、將靜態圖片轉換為視頻、改變面部特徵、拼接兩張臉等。」螞蟻數科相關人士表示，面對升級版攻擊，就需要深入研究不法分子的各類欺詐手段，模擬其操作邏輯，利用專業設備偽造人臉、指紋等樣本，進而開展針對性攻防演練。「唯有精準洞悉不法分子的作案套路，才能構建更有效的防禦體系。」

2025年10月，香港金管局推出的第二期生成式人工智能沙盒計劃也充分聚焦加強AI治理，其中多個案例採用「以AI對抗AI」策略。如中銀香港通過深化偵測文檔防欺詐及人臉識別反深度偽造技術，讓生成式人工智能持續學習，以應對新型深度偽造的文字及語音技術。金融壹賬通也在全球金融行業率先推出「智能視覺反欺詐策略平台」，可對AI偽造圖像進行深度剖析，精準識別換臉、偽造視頻等複雜攻擊，綜合檢測防禦率高達99%+。