據報OpenAI考慮放緩前沿AI技術開發速度

據報OpenAI考慮放緩前沿人工智能(AI)技術的開發速度。

彭博引述知情人士報道，OpenAI行政總裁奧爾特曼(Sam Altman)在一次公司全體會議上表示，公司可能會控制其AI開發速度，並可能會與其他幾個AI實驗室協調共同放緩AI開發，不過知情人士稱，一些實驗室可能不願合作。

OpenAI拒絕置評。

近期多家領先AI企業的員工，都表達對AI風險的憂慮。

奧爾特曼曾在7月透露，他與白宮官員討論過放緩AI開發的需要。 OpenAI首席科學家帕霍基(Jakub Pachocki)最近發文呼籲，對AI採取極度謹慎態度及加強干預，各實驗室應協調放緩發展速度，希望在建立共同的安全標準之前，將自願放緩發展速度的做法變成常態。

Anthropic的安全研究員哈賓格(Evan Hubinger)警告，未來10年內AI導致「全人類滅絕」的可能性高於一成。 從Anthropic辭職的研究員考克森(Jacob Coxon)批評，主要AI實驗室正在「拿人類生命冒險」，只盲目競逐可自主改進的超智能系統，這些系統很快將具備入侵任何網絡、 顛覆各個領域及獲取實權的能力。