马来西亚吉隆坡——马来西亚和印度尼西亚成为首批屏蔽 Grok 的国家，Grok 是埃隆·马斯克 (Elon Musk) 的 xAI 开发的人工智能聊天机器人，此前当局表示，Grok 被滥用来生成露骨和未经同意的图像。
这些举措反映了全球对能够生成逼真图像、声音和文本的生成式人工智能工具日益增长的担忧，而现有的保障措施无法防止其滥用。 Grok 聊天机器人可通过马斯克的社交媒体平台 X 访问，该机器人因生成经过处理的图像而受到批评，包括对穿比基尼的女性或露骨的性姿势的描绘，以及涉及儿童的图像。
这两个东南亚国家的监管机构表示，现有的管制措施并不能阻止虚假色情内容的创建和传播，特别是涉及妇女和未成年人的内容。印度尼西亚政府于周六暂时封锁了 Grok，马来西亚随后于周日封锁。
印度尼西亚通信和数字事务部长 Meutya Hafid 在周六的一份声明中表示：“政府认为未经同意的性深度假货严重侵犯了数字空间中公民的人权、尊严和安全。”
该部表示，该措施旨在保护妇女、儿童和更广泛的社区免受人工智能生成的虚假色情内容的侵害。
数字空间监管总干事亚历山大·萨巴尔在另一份声明中表示，初步调查结果显示，Grok 缺乏有效的保障措施来阻止用户根据印度尼西亚居民的真实照片创建和传播色情内容。他说，当照片未经同意被操纵或分享时，这种做法可能会侵犯隐私和肖像权，从而造成心理、社会和声誉伤害。
在吉隆坡，马来西亚通信和多媒体委员会周日下令对 Grok 进行临时限制，称其“反复滥用”该工具来生成淫秽、露骨和未经同意的操纵图像，包括涉及妇女和未成年人的内容。
该监管机构表示，本月向 X Corp. 和 xAI 发出的通知要求采取更强有力的保障措施，引起的回应主要依赖于用户报告机制。
它说：“在法律和监管程序正在进行期间，实施这一限制是作为预防性和相称的措施。”并补充说，在采取有效的保障措施之前，访问将保持封锁状态。
Grok 于 2023 年推出，可在 X 上免费使用。用户可以在社交媒体平台上向其提问，并标记他们直接创建的帖子或回复其他用户的帖子。去年夏天，该公司添加了图像生成器功能 Grok Imagine，其中包括可以生成成人内容的所谓“辣味模式”。
东南亚的限制出台之际，Grok 在其他地方受到越来越严格的审查，包括欧盟、英国、印度和法国。在全球范围内对人性化深度假货事件产生强烈反对后，Grok 上周将图像生成和编辑限制为付费用户，但批评者表示，它并没有完全解决这个问题。
版权所有 2026 NPR
