憂安全風險未達標 OpenAI煞停發布新模型GPT-6.1 Astra

人工智能(AI)研發機構OpenAI宣布，基於安全考量，將不會推出其最新研發的AI模型GPT-6.1 Astra。 該系統具備自主瀏覽網絡及操作應用程式的能力，但OpenAI安全系統主管賈因(Saachi Jain)表示，該模型「未能完全達到」公司的內部安全標準。

賈因指出，該模型在「維持在既定授權範圍內運作，以及向用戶交代已執行工作內容的溝通方式上」，均未達預期標準。

她補充指，無論是內部研發抑或向公眾發布產品，公司均須確保模型安全，而在面向一般用戶時，對安全與對齊的要求門檻更是極高。

據《華爾街日報》報道，今次是主要AI開發商因安全隱憂，而擱置推出新模型的罕見個案。

OpenAI的旗艦級代理模型GPT-6 Astra於今年9月面世，主打複雜邏輯推理及自主執行任務，官方曾稱其為「多年研究與重大投資」的成果。 OpenAI預定周二在三藩市，舉行年度DevDay開發者大會，預料會上將宣布多項新進展，但目前尚不清楚是否涵蓋新版Astra；隨着早前發生多宗涉及其技術的安全事故，該公司的網絡保安機制正面臨外界嚴格審視。