英皇警告AI發展或釀危機 黃仁勳：須嚴格測試AI產品

英皇查理斯三世於蘇格蘭，召開的人工智能(AI)安全峰會上，警告與會的AI行業領袖，AI可能衍生的風險。 輝達(Nvidia)行政總裁黃仁勳稱，會嚴格測試AI產品。

查理斯稱，AI有潛力改善並拯救生命，特別是在生命科學和醫學領域，但AI也可能會發展出更黑暗的能力，甚至帶來對「生存的威脅」；所以必須趁早建立充分的管控措施。

黃仁勳則主張以「負責任的樂觀」(responsible optimism)來發展AI，認為現階段出現的事故，核心問題並非監管不足，而是有產品尚未準備好便推出。 他認為，開發AI的人，必須對系統進行嚴格測試，若果產品不夠安全，就應該暫緩發佈。

除了黃仁勳， 其他主要AI企業DeepMind、OpenAI及Anthropic 等管理層都有出席這場AI峰會。