IT之家 1 月 10 日消息，今天下午，据路透社报道，印度尼西亚政府宣布暂时屏蔽马斯克旗下 Grok 聊天机器人的使用权限，理由是该 AI 工具存在生成色情内容的风险。
这是全球首次有国家对 Grok 采取封禁措施。在此之前，从欧洲到亚洲，多国政府和监管机构已公开谴责该应用中出现的色情有关内容，部分国家还启动了正式调查。
xAI 早些时候表示，正在限制 Grok 的图像生成和编辑功能，仅向付费用户开放，以弥补此前安全机制失效的问题。据IT之家了解，Grok 的漏洞曾导致包括儿童性化形象在内的不当内容被生成。
印尼通信与数字事务部长梅乌蒂娅哈菲德表示，未经当事人同意的深度伪造内容，构成对人权、人格尊严以及数字空间安全的严重侵犯。印尼政府已要求 X 平台方面就此事作出说明。
马斯克则在 X 上回应称，任何利用 Grok 制作非法内容的行为，都将受到与上传非法内容相同的处理。