科幻電影中不乏有人工智慧反噬人類的警示內容，但似乎無法減緩近年各國發展人工智慧相關技術的趨勢，在俄烏戰爭中多次被運用的網路攻擊、深偽技術和自殺無人機等技術，使各國專家擔憂 AI 軍備競賽將成為下一次大戰的源頭。
從 2010 年代開始，聯合國就針對致命性自動武器（Lethal Autonomous Weapons，LAWs）的規範進行討論，但由於各國對於 LAWs 的定義分歧，直到 2018 年才形成初步共識，規定使用 LAWs 進行殺傷行動，必須經過人類下達最後指令，但卻又將「防衛性質」的 LAWs 排除在外。
日本 NHK 電視台去年即推出 AI 武器專題「2030 通往未來的十字路口」，探討 近年 AI 武器造成的軍事和戰爭革新及影響，其中便談到了 2020 年亞塞拜然與亞美尼亞戰爭，是人類史上首次兩國之間大規模使用無人機進行的常規戰爭。
亞塞拜然透過大量土耳其製無人機，在戰事中取得優勢，戰勝仍將資源投注在傳統武器的亞美尼亞，使全世界見識到無人機在大規模戰爭中帶來的影響。
2 月底爆發至今的俄烏戰爭，俄羅斯也運用 AI 進行網路攻擊和深偽技術，短暫癱瘓烏克蘭部分基礎建設，假造澤倫斯基總統的投降演說，並首次動用卡拉希尼可夫公司開發的 KUB-BLA 自殺無人機（烏軍則使用美軍彈簧刀自殺無人機），都是正規戰爭中首次運用的戰術。
▲ 俄羅斯在戰爭前期製作烏克蘭總統澤倫斯基的 Deepfake 影片，成為這項技術首次的實戰運用。（Source：影片截圖）
戰爭爆發後，聯合國在 3 月於日內瓦召開新一輪 LAWs 的規範會議，但由於俄羅斯遭歐洲國家制裁無法出席，會議並未形成任何新的共識。
近期洛杉磯時報和華盛頓郵報等媒體也撰文指出， AI 武器帶給人們的疑慮，主要在於自我意識（Self-awareness）產生的後果，和缺乏明確規範將提高戰爭機率兩個因素。
大部分科幻電影中強調的災難，都來自於高速發展的 AI 產生自我意識，進而決定傷害人類的假設，而 Google 執行長皮查伊（Sundar Pichai）就曾指出，除了醫療相關的發展外，其他所有領域的 AI 開發，都應受到更嚴格的規範，盡可能排除 AI 自我意識出現的可能性。
軍事、國際法和國際關係學者則普遍認為，AI 是人類軍事史上繼火藥和核武之後最重大的轉捩點，而當熱兵器和核武分別在 14 和 20 世紀誕生後，都造成極為龐大的傷亡。
因此國際社會若無法在 AI 武器能造成大規模殺傷前，先擬定法規加以限制的話，新武器帶來的技術優勢吸引力，將升高軍備競賽的速度與規模，並提升戰爭意願，冷戰以來的核威懾效應會快速遞減。
雖然烏俄戰爭中傳統武器仍然佔據重要角色，而俄羅斯在戰場上的表現，也證明了貪腐和制度上的缺陷，往往會抵銷技術或帳面數據上的優勢。
但由於美中俄等強權國家，近年在 AI 武器上的開發不遺餘力，國際間仍需要盡快針對這項新技術擬定規範，避免重蹈幾世紀以來的覆轍。
（首圖來源：AeroVironment）
