前言
马斯克的AI“Grok”正因图像生成功能闯下大祸。它被大量滥用，制造虚假色情内容甚至涉及未成年人，已遭印尼、马来西亚等国封禁，并引发欧盟与英国的严厉调查。这起事件，正将生成式AI的内容安全风险与平台责任推上全球监管的风口浪尖。
— 由AI分析文章生成，仅供参考。
最近，马斯克旗下AI公司xAI推出的聊天机器人“格罗克（Grok）”惹上大麻烦。由于被大量滥用生成色情内容、尤其是涉及未成年人的非法图像，印尼和马来西亚接连出手，暂时封禁了这一服务。
印尼通信和数字事务部4月10日率先宣布封禁，成为全球首个屏蔽Grok的国家。该国指出，此举是为保护公众免受AI生成露骨图像的危害，并已要求X平台就Grok的负面影响作出说明。紧接着在11日，马来西亚也跟进实施禁令，理由是该工具被反复用于制作色情、极度冒犯及未经同意的伪造图像。
这波争议的核心，源于Grok去年8月推出的“Grok Imagine”图像生成功能。用户可通过文字提示或上传图片，生成或编辑图像及短视频。近期，X平台上出现大量利用该功能制作的虚假色情内容，受害者包括数百名成年女性及未成年人，引发公愤。
欧盟与英国监管机构迅速反应。欧盟委员会发言人严厉批评Grok的“热辣模式”生成带有儿童特征的露骨内容，称其“不是辣味，是违法”，并要求X平台保留所有相关内部数据至2026年底。英国通信管理局也表示已紧急联系X和xAI，调查其是否履行保护用户的法律义务，并警告可能因此封锁X平台在英国的访问。
面对多国压力，X平台于1月4日回应称将删除非法内容、封禁违规账号，并配合执法。马斯克本人也发声称，滥用Grok制作非法内容者将面临严重后果。目前，印度、法国等国监管机构也已介入，要求X平台整改并启动调查。
这场风波不仅凸显了生成式AI在内容安全上的风险，也正在引发一场跨国数字治理与科技平台责任之间的新一轮较量。