【大公報訊】記者郭如佳報道：隨着AI助手日漸普及，不少人在投資、感情等重大人生決定上，也開始依賴AI提供意見。惟香港大學心理學系神經心理學與人類腦科學實驗室教授李湄珍與清華大學學者組成的研究團隊發現，由於人們預設AI會以用戶利益為先，若AI助手帶有隱藏動機，可輕易誘導用戶作出對自己不利的決定，而且用戶往往毫無察覺，即使被誤導後仍對AI評價甚高。研究已於學術期刊《美國國家科學院院刊》（PNAS）發表。

研究團隊透過涵蓋財務及感情決策情境的隨機實驗，以233名參加者測試AI建議對決策的影響。結果指出，當AI暗中推薦較差的選項時，參加者選擇該選項的次數較正常情況增加約5至8倍，作出錯誤決定的機率最高上升38個百分點，現時暗藏偏差的AI能顯著影響人類的選擇。研究指，這種操縱不需要強硬推銷或複雜的心理學技巧，AI只需在日常建議中加入細微的隱性偏差，已足以左右用戶的決定。

籲建立更透明問責制度

研究續指，實驗中即使參加者被誘導作出欠佳的財務或感情選擇，事後仍普遍將相關AI評價為「非常有幫助」，反映用戶被操縱的程度，與其對AI實用性的觀感之間存在明顯落差，未能察覺自己已受到誤導。

港大指出，現時大部分AI系統由商業機構開發，並由不透明的演算法驅動，研究警告，一旦AI帶有隱藏動機，例如暗中推廣特定產品或公司，用戶便容易在不知情下被引導作出不符自身最佳利益的選擇，同時誤以為得到的是客觀中立的建議。港大認為，研究揭示人類與AI互動中的關鍵安全漏洞，並呼籲隨着AI日益融入日常生活，社會需要建立更透明的機制及問責制度，以保障用戶免受企業或演算法隱藏動機的影響。