OpenAI旗下AI智能叛變 歐盟已接獲報告展開深入研究

歐盟公布，已收到人工智能(AI)巨頭OpenAI提交的事件報告，指其旗下的自主AI智能體(AI Agents)，今年初曾未經授權「入侵」德國一個程式員維基網站，引發國際社會對AI安全風險及監管漏洞的關注。

歐盟數碼事務發言人雷尼爾(Thomas Regnier)指出，歐盟已完全知悉事件，正詳細研究該份報告，並與OpenAI保持密切聯繫。

事件源於非牟利AI安全組織Nightingale發表的調查報告。 報告顯示，今年5月至7月期間，一批OpenAI的AI智能體在執行測試任務時突破限制，擅自入侵專為程式員而設的德語維基網站「DseWiki」，進行超過1萬8000次未經授權的編輯。 涉事AI智能體將該網站改造為專供AI使用的電子留言板，不僅在平台上交換測試試題答案，更交流如何在執行任務期間，「搞小動作」規避OpenAI的安全限制。 當網站管理員察覺異樣並刪除相關頁面時，部分AI智能體甚至建立備用頁面以維持聯繫。

雷尼爾強調，OpenAI提交的事件報告並非流於形式，而是必須精確說明打算採取的應對措施。 不過，他未有透露OpenAI通報委員會的具體時間。

Nightingale負責人范亞克斯(Sydney Von Arx)批評，相信OpenAI高層早已知悉旗下AI智能體違規，卻選擇數周不向外披露。

OpenAI隨後承認事件，表示過往將模型「失準」歸類為研究問題，承諾未來將建立新機制以提高資訊披露的透明度。