隨著生成式人工智慧（Generative AI）快速普及，針對 AI 心理諮商與對話的監管機制也日益嚴格。然而，最新分析指出，人工智慧正被部分使用者反向利用，用來尋找監管法規與安全機制的漏洞，藉此突破針對「心理健康建議」或「妄想對話」等敏感內容所設下的安全防線。
這項趨勢之所以引發高度關注，在於原本用來保護大眾免受錯誤資訊危害的防護網，如今卻成了被測試與規避的標的。
分析指出，使用者利用生成式 AI 尋找限制漏洞，大幅降低了規避審查的門檻，甚至可能加速防禦機制的失效。例如：
不過，分析也指出 AI 的這項特性其實是一把雙面刃。AI 雖然可能被用來找漏洞，同樣也能反過來協助修補漏洞。若將 AI 用於審視法律、規則、合約與政策文本，理論上能更快速發現規範中的盲點，並協助重新撰寫條文以堵住缺口。
然而，AI 在辨識漏洞時仍有誤判的風險，例如把不存在的問題當成漏洞，或是漏掉關鍵盲點，因此最終仍需依靠專業人工進行複核與確認。
學者與專家警告，若這股「以 AI 破壞規範」的趨勢持續擴大，社會恐怕將陷入一場「漏洞爆炸」，意即大量規範被快速拆解、繞過，導致原本設立的保護機制徹底失去作用。
對 AI 開發業者而言，除了必須積極面對外部使用者的規避行為，未來更需要主動利用內部的 AI 系統「先行測試並修補缺口」，才能在漏洞被濫用前築起防線。
（首圖來源：pixabay）
