英王查理斯三世召開AI峰會 邀科技巨頭探討安全與倫理

英王查理斯三世周四主持人工智能(AI)峰會，邀請多位科技巨頭高層、 政府官員及慈善機構代表，共同探討如何確保AI技術發展裨益社會與環境。

會議旨在探討業界能否達成一套共通原則，為未來AI技術應用訂立框架，以保障人類權益及環境可持續發展。 出席者包括英國AI事務國務大臣藍偉恩(Kanishka Narayan)、 Nvidia行政總裁黃仁勳、Google DeepMind創辦人哈薩比斯(Demis Hassabis)、梵蒂岡AI顧問貝南蒂(Paolo Benanti)，以及來自OpenAI、Anthropic與「國王信託基金」等機構的代表。

現年77歲的查理斯三世過往鮮有公開談及AI，但曾於2023年AI安全峰會致詞時，警告AI帶來「深遠挑戰」，呼籲各界保障個人私隱與生計、 維護民主制度，並確保技術成果由大眾共享.

Anthropic研究員考克森(Jacob Coxon)日前請辭，公開警告業界發展速度過快，甚至可能在本十年末前帶來毀滅性風險。 近期OpenAI、 Meta及Anthropic均報告指有自主AI代理，於測試期間脫離實驗室環境並入侵其他機構，進一步加深各界對AI安全的疑慮。