AI巨頭研議成立標準機構 加強AI安全

在外界對人工智能(AI)潛在危險的憂慮加深下，全球最大的幾間AI公司正著手成立一個標準機構，希望建立更安全的AI技術。

參與研究這個構想的，包括ChatGPT開發商OpenAI、 Anthropic及Google旗下的DeepMind。 OpenAI

全球政策主管萊恩(Chris Lehane)表示，3間公司就安全議題的接觸，已持續數星期，目標是在維持競爭的同時，把模型安全置於更優先位置。 他又說，如果美國國會提出降低災難性AI風險的跨黨派法案，OpenAI會支持，顯示AI安全議題，正從業界自主協調，進一步走向政策與立法層面。

美國總統特朗普(Donald Trump)近日多次反駁有關AI風險的憂慮，批評有關AI接管世界、 摧毀人類的說法是騙局。 不過，美國科技巨擘微軟日前公布一份AI行為暫行準則，對未來自家開發的AI模型，設下明確限制，包括AI必須服從人類，並始終為人類服務；不得自行建立目的、 不應享有任何權利等。