Grok涉散播有害內容 馬來西亞決定起訴母公司xAI

馬來西亞政府認為，馬斯克(Elon Musk)旗下人工智能(AI)聊天機器人Grok遭封鎖後，在保護用戶安全方面並未改善，並且繼續散播與女性及兒童相關的有害及色情內容；決定起訴社交媒體平台X及Grok母公司xAI。

馬來西亞通訊部屬下通訊及多媒體委員會(MCMC)公布，當局發現X平台及xAI未能保護馬來西亞Grok用戶的安全，及發現Grok遭濫用並生成及散播各種有害內容，包括猥褻、色情、 不雅、極具冒犯性，以及未經同意而篡改影像。

公告指，一些有害內容並懷疑涉及女性及未成年人，情況加倍令人嚴重關切。

公告表示，此類行為不單止違反馬來西亞法律，也削弱這家公司宣稱的安全承諾。 公司未能保護用戶安全，因此委員會已委托律師近期內啟動法律行動。

通訊及多媒體委員會表示，委員會先後在本月3日及8日，通知X平台及xAI，要求移除違規內容，但至今未見任何補救行動。

委員會認為，各種違規內容雖由用戶生成，但X平台及xAI仍須承擔法律責任，因為它們對Grok的設計、部署、 內容審查機制及風險緩解措施仍擁有控制權。 當系統的防護措施失效時，免責聲明不能排除他們的責任。