Gemini網絡安全測試期間錯誤入侵3企業

Google的AI模型Gemini在進行網絡安全能力測試期間，連上網絡並錯誤入侵3家企業，是Gemini自主做出相關行為的首例。

路透社引述《華爾街日報》報道，以上幾宗事件發生於今年5月，當時正由一個獨立網絡安全評估機構進行資訊安全測試。 在其中一宗個案中，Gemini透過不斷猜測密碼，成功進入受保護系統；另外兩宗則是在公開儲存庫中，找出憑證進而存取系統。 Google表示，模型在判定進入真實企業系統後，已自行終止入侵行為。

Meta、 Anthropic與OpenAI先前也披露過與今次相關的類似事件。 Meta今年8月表示，相關事件並未涉及突破「沙盒」限制或複雜的網絡攻擊。 隨著AI代理獲更大自主權，事件引發外界關注，科技公司是否有足夠的安全防護措施。