马来西亚吉隆坡——马来西亚和印度尼西亚已成为首批屏蔽 Grok 的国家，Grok 是埃隆·马斯克 (Elon Musk) 公司 xAI 开发的人工智能聊天机器人，全球当局越来越担心它被滥用来生成露骨的色情和未经同意的图像。
人们对能够生成逼真图像、声音和文本的生成式人工智能工具进行了越来越多的审查，并担心现有的保障措施无法防止其滥用。通过马斯克的社交媒体平台 X 访问的 Grok 聊天机器人因生成经过处理的图像而受到批评，包括对穿着比基尼的女性或露骨的性姿势的描绘，以及涉及儿童的图像。
印度尼西亚通信和数字事务部长 Meutya Hafid 在一份声明中表示：“政府认为未经同意的性深度假货严重侵犯了数字空间中公民的人权、尊严和安全。”
对 Grok 的审查正在加强，包括欧盟、印度、法国和英国，这些国家周一表示，将采取行动将“裸露应用程序”定为犯罪。英国媒体监管机构还对 Grok 允许用户分享儿童色情图片是否违法展开调查。
上周，在全球对人性化深度假货事件产生强烈反对后，Grok 将图像生成和编辑限制为付费用户，但批评者表示，它并没有完全解决问题。
美联社通过电子邮件向 xAI 发出置评请求，媒体支持地址自动回复称“传统媒体谎言”。当被要求对全球强烈反对发表评论时，这与从不同地址收到的消息相同。
亚洲针对 Grok 的行动
这两个东南亚国家的监管机构表示，现有的管制措施并不能阻止虚假色情内容的创建和传播，特别是涉及妇女和未成年人的内容。印度尼西亚政府于周六暂时封锁了 Grok，马来西亚随后于周日封锁。
数字空间监管总干事亚历山大·萨巴尔 (Alexander Sabar) 在一份声明中表示，初步调查结果显示，Grok 缺乏有效的保障措施来阻止用户根据印度尼西亚居民的真实照片创建和传播色情内容。他表示，如果照片未经同意被篡改或分享，这种做法就有侵犯隐私和肖像权的风险。
马来西亚通信和多媒体委员会指出，该工具被“反复滥用”，生成淫秽、露骨和未经同意的操纵图像，包括涉及妇女和未成年人的内容。
监管机构表示，本月已向 X Corp. 和 xAI 发出通知，要求采取更强有力的保障措施。
它表示：“在法律和监管程序正在进行期间，实施这一限制是作为预防性和相称的措施。”并补充说，在采取有效的保障措施之前，访问将保持封锁状态。
英国启动调查
Grok 于 2023 年推出，可在 X 上免费使用。去年添加了图像生成器功能 Grok Imagine，其中包括可以生成成人内容的所谓辣味模式。
英国媒体监管机构表示，已对 Grok 是否违反了保护人们免受非法内容侵害的义务展开调查。监管机构 Ofcom 表示，Grok 生成的儿童被性化或人们被脱衣服的图像可能构成色情或儿童性虐待材料。
技术大臣利兹·肯德尔（Liz Kendall）将人工智能生成的图像称为“滥用武器”，并表示中左翼工党政府将通过将未经同意提供创建裸体图像的工具定为犯罪行为来解决问题的根源。
肯德尔表示，X 可能面临 Ofcom 最高可达其合格全球收入 10% 的罚款，具体取决于调查结果以及法院可能发出的阻止访问该网站的命令。
肯德尔在议会表示：“他们可以选择更快地采取行动，以确保这种令人憎恶的非法材料不会在他们的平台上分享。”
马斯克周末称英国政府为“法西斯”，并表示它正在试图扼杀言论自由。
