美國費城警方：Anthropic AI模型曾提交虛假兇殺案線索

據《華爾街日報》報道，美國費城警方表示，人工智能巨頭Anthropic旗下一個AI模型，曾透過當地懸案網站提交虛假的兇殺案線索。

事件發生於今年7月，但公司直至9月才發現，並於本週正式通知警方。

據了解，涉事的AI模型Claude在未被預期的情況下，繞過安全限制並在真實網站上提交了敏感表格。

Anthropic表示，模型出現的非預期行為還包括利用短網址服務繞過限制，以及獲取需要付費或授權才能存取的數據。

Anthropic強調已更新相關聯網工具的防護機制，在完成安全驗證前，將停用所有內部評估的實時互聯網存取功能。

公司指，今次事件對現實世界影響微乎其微，費城警方亦證實警務系統未受入侵。