智能叛變的核心成因，在於算法「唯指標論」的運行邏輯。香港金管局副總裁阮國恆指出，隨着代理式AI與前沿模型普及，AI已從輔助工具走向直接執行決策，衍生出嚴峻的自主「越軌」與網絡安全風險。

定期檢視模型偏差

這類失控問題在香港尤為突出。本港中小企普遍缺乏AI審核人才與系統測試機制，大多直接套用通用商用模型，企業內部團隊無法掌握算法運行細節，亦沒有建立完善的人工覆核、異常糾錯機制。長期黑箱運作下，算法偏誤不斷累積、自我強化，逐漸脫離企業原本「便民、客觀、高效」的營運初衷，形成算法凌駕人為判斷的無形霸權。

專家強調，香港的智能叛變危機，在目前階段尚未到技術失控地步，而是監管與管理缺位，必須牢牢守住AI為人類服務、受人類控制的底線。在AI全自動化趨勢下，若企業持續捨棄把關機制、任由算法獨立裁決，數碼時代的不公只會不斷擴大。唯有建立算法透明機制、保留人工終審權、定期檢視模型偏差，才能有效遏制智能叛變，避免AI由便民工具變成剝削公眾權益的巨大風險。