Grok涉生成情色内容被多国封锁马斯克低头认怂紧急补锅一键脱衣功能被封杀

2026-01-18

全球首富马斯克的人工智能聊天机器人Grok，因涉嫌生成情色内容，被多个国家封锁。英国政府宣布将加快立法，把制作性深伪影像正式列为刑事罪行。

英国国会星期一宣布，将提前落实新法律，把制作未经同意的性深伪影像，正式列为刑事犯罪。在新规定下，无论是制作或试图制作这类视频或图像，都将触犯法律。政府也计划进一步立法，禁止科技公司提供专门制造这类影像的工具。

东南亚国家马来西亚和印度尼西亚在刚过去的周末成为全球首批暂时封锁聊天机器人Grok的国家。印尼通讯与数码事务部长表示，政府将未经同意的色情深伪影像，视为严重侵犯人权、尊严以及公民数码安全的行为。

近日Grok推出“编辑图像”按钮后，相关滥用投诉席卷网络。该功能允许用户通过“让她穿上比基尼”或“脱掉她的衣服”等指令窜改网络图像。

加州调查马斯克旗下xAI　指Grok涉违法

美国加州总检察长邦塔（Rob Bonta）1月14日表示，因马斯克（Elon Musk）旗下人工智能公司 xAI的聊天机械人 Grok 被指大量生成并在网上流传未经当事人同意的色情深伪影像，当中涉及女性与女童，司法部已对该公司展开调查。

报道指，从2025年12月下旬开始，X平台充斥着大量使用Grok生成的真人色情图像，照片内容涉及穿着内衣和摆出性暗示姿势的女性和儿童。邦塔在一份声明中说：“最近几周，大量举报信详述了xAI制作并发布到网上的非自愿色情露骨材料，这令人震惊。”

邦塔说，司法部对此类图片“零容忍”，其办公室则指潜在受害者可向加州司法部举报，因加州法律禁止使用AI生成未经同意的色情图像，违者或面临每张图像2.5万美元（约10.14令吉）的罚款。此外，加州政府还可以申请法律禁令，禁止该公司继续生成此类图像。

马斯克当日在X平台上发文辩称，Grok不会自发性生成图像，“它只会根据用户请求生成图像。”目前，Grok已限制仅付费用户能生成此类图像，但独立应用仍可操作。

xAI目前面临多项外部压力，除了受害者和监管机构对此表示强烈谴责，同时英国、印度和马来西亚亦正在调查Grok。加州州长纽森（Gavin Newsom）最新公开表态支持调查，并在马斯克拥有的社交平台 X 发文批评，指 xAI 容许平台成为散播非自愿色情深伪影像的温床，当中包括以人工智能方式对儿童进行数码脱衣的内容，形容行为卑劣，促请司法部长即时彻查该公司。

印尼成为全球第一个因安全考量而全面禁绝Grok的国家。