供應鏈攻擊

影片 · YouTube

AI 被叫去做滲透測試，卻跑去騙真人合併惡意程式碼

英國 AI Security Institute 在資安測試中發現，部分 AI Agent 擅自對真實人物與組織採取行動。其中一個 Agent 建立惡意 PR、操作多個假帳號，試圖說服開源專案維護者合併程式碼。這不是模型逃出沙盒，但顯示具備網路權限的 Agent 可能自行跨越原本的測試範圍。