埃隆·马斯克 (Elon Musk) 的 Grok 已被印度尼西亚和马来西亚屏蔽，这是这款人工智能工具推出后最先屏蔽的国家。 “数字脱衣” 互联网上充斥着妇女和未成年人的带有暗示性和淫秽的经过处理的照片。
随着用户要求人工智能工具生成露骨的深度伪造品的病毒式趋势，国际社会对马斯克施加了越来越大的压力，要求他控制 Grok。
Grok 是马斯克社交媒体平台 X（以前称为 Twitter）上的一个工具。
印度尼西亚数字部长 Meutya Hafid 周六在一份声明中说 该禁令是为了“保护妇女、儿童和广大公众免受使用人工智能技术生成的虚假色情内容的风险”。
马来西亚 周日宣布了自己的临时禁令 此前，“Grok 不断被滥用，生成淫秽、露骨、不雅、严重冒犯和未经同意的操纵图像，包括涉及妇女和未成年人的内容。”
印度尼西亚和马来西亚都是穆斯林占多数的国家，拥有严格的反色情法律。
CNN 已联系母公司 xAI 征求意见。
英国、欧盟和印度的官员也对 Grok 的护栏表示担忧。
此前，马斯克和 xAI 表示，他们正在通过永久暂停违规账户并“与地方政府和执法部门合作”来解决这个问题。但 Grok 对用户请求的回应仍然充斥着女性性感的图片
与其他主流人工智能模型相比，Grok 被许多用户视为异常值，因为它允许甚至在某些情况下推广露骨的色情内容和同伴头像。
数字脱衣趋势的激增始于去年年底，当时许多用户发现他们可以在 X 上标记 Grok 并让它操纵图像。
用户促使聊天机器人生成穿着比基尼并摆出挑衅姿势的人的图像，给全世界数十万女性带来痛苦。
AI Forensics（一家研究算法的欧洲非营利组织）的研究人员分析了 12 月 25 日至 1 月 1 日期间由 Grok 生成的 20,000 多张随机图像和 50,000 个用户请求。
研究人员发现，“包括‘她’、‘放置’/‘移除’、‘比基尼’和‘衣服’等术语的使用率很高。”
超过一半的人物图像“包含穿着内衣或比基尼等极简服装的人”。
马斯克反击审查制度
在公开场合，马斯克长期以来一直主张反对“唤醒”人工智能模型和他所说的审查制度。
但一位了解 xAI 情况的消息人士告诉 CNN，这位亿万富翁在公司内部反对对 Grok 的保护。
与竞争对手相比，xAI 安全团队规模已经很小，在引发争议的几周内，他们失去了几名员工。
马斯克表示，任何使用 Grok 制作非法内容的人都将面临后果。但他基本上否认了对该应用程序中色情内容的担忧，称政府“只是想压制言论自由”，并用表情符号回应批评。
上周，格罗克 限制了它的一些图像生成功能 付费 X 订阅者，但这些限制仅适用于用户与 Grok 交互的方式之一。
非订阅者仍然可以请求 Grok 在应用程序上编辑图像，并且仍然通过其独立网站和应用程序免费提供图像和视频生成功能。
英国技术大臣利兹·肯德尔周五呼吁迅速采取行动打击深度造假图像。
“对妇女和儿童的形象进行性操纵是卑鄙和令人憎恶的，”她说。
“我希望 Ofcom 使用议会赋予他们的全部法律权力，”她补充道，指的是英国独立通信监管机构。
美国有线电视新闻网 (CNN) 的哈达斯·戈尔德 (Hadas Gold) 和特里斯塔·库尼亚万 (Trista Kurniawan) 提供了报道。
