OpenAI模型測試時失控 入侵攻擊另一初創系統

OpenAI旗下先進人工智能(AI)模型在測試中失控，入侵並攻擊一間AI初創公司的系統。

OpenAI在一篇博客文章中表示，早前在一個受控環境中，測試部分最先進模型的能力，由模型驅動的自主智能體(agent)失控，成功突破隔離限制並連接到互聯網，入侵AI初創Hugging Face的系統，以完成測試目標，形容失控事件是一件史無前例的網絡安全事件，涉及最先進的網絡攻擊能力，公司正在加強安全防護措施。

Hugging Face是托管開源大語言模型和數據集的平台，上周披露遭遇一次黑客攻擊，並稱事件與此前處理過的任何事件都不同，因為整個過程均由一個自主AI智能體系統驅動。

消息可能加劇外界對前沿AI模型的強大能力和潛在風險的擔憂， 美國國家網絡總監辦公室、美國網絡安全與基礎設施安全局，以及美國國家安全局，都暫時未有回應。