傳英國擬立法強制前沿AI呈報事故 促企業嚴管自主模型防失控

英國政府正草擬法規，計劃對前沿人工智能(AI)，實施強制安全報告及監測機制。

據報英國人工智能國務大臣藍偉恩(Kanishka Narayan)，預計將在西倫敦發表的專題演講中正式宣布，當局已準備透過立法，加強監管這項急速發展的技術；警告研發日益強大及具自主能力的AI模型的企業，必須採取更多措施應對潛在風險並建立保障機制。

英國亦正考慮立法，強制科技企業在推出最新模型前，必須開放予處於全球領先地位的「英國人工智能安全研究所(AISI)」，進行審查測試。

藍偉恩亦致力勾勒英國的「AI主權」願景，主張將關鍵技術與數據儲存在本國，並在安全等少數核心領域確立全球領先優勢，為英國日後與美方及其他國家談判時增加籌碼。

他上月在工黨利物浦大會期間表示，當前工作重點是建立框架以測試模型、 評估風險、 強化英國防禦及構建自主AI能力，並稱「若監管或立法是達成目標的手段，他會第一個站出來推動」。

藍偉恩在演說中亦透露，英國政府曾嘗試利用商業AI模型偵測官方系統的防禦漏洞，結果發現約1000個網絡安全缺陷。 他補充，作為提升國家韌性的一環，英國必須善用AI來防禦此類安全威脅。