印尼和马来西亚近日相继宣布暂时封禁美国企业家埃隆·马斯克旗下的人工智能聊天机器人“格罗克(Grok)”，原因是担心它被用于生成色情内容。印度尼西亚通信和数字事务部长表示，由于担心人工智能会生成色情内容，该国成为第一个拒绝访问该人工智能工具的国家。该部长在声明中强调，此举是为了保护公众免受人工智能生成的露骨图像所带来的危害，并要求马斯克旗下的社交媒体X平台就“格罗克”所引发的负面影响尽快作出说明。
随后，马来西亚通讯及多媒体委员会也发布声明，暂时禁止该国用户访问格罗克，因为该工具被反复滥用来生成色情内容、露骨的性内容、极度冒犯且不雅的内容，以及在未经同意的情况下生成被操纵的图像。马来西亚律师阿齐拉·阿齐兹指出，如果只是出于娱乐目的，“用AI给公众人物头像加个墨镜之类的倒也无可厚非”，但未经当事人同意，“利用AI对妇女儿童实施与性别相关的暴力，必须坚决反对”。
xAI 已将格罗克整合进社交平台X，X用户可直接调用该聊天机器人。印尼政府在声明中表示，“未经同意的、性化的深度伪造行为严重侵犯了公民在数字空间中的人权、尊严和安全”。格罗克由马斯克旗下的人工智能公司xAI 公司开发，去年8月推出了AI工具Grok Imagine，可根据文字提示或上传图片编辑生成AI图像，继而转化为短视频内容。近期，X平台上出现部分用户利用“格罗克”编辑图片和视频的现象，一些用户借此生成真实人物的虚假性暴露内容并在平台上散播，受害者包括数百名成年女性和未成年人。
这一现象引起了公愤。欧盟委员会负责数字经济事务的发言人托马斯·雷尼耶回应说，正“严肃调查”针对“格罗克”的相关投诉。“‘格罗克’推出所谓‘热辣模式’，不仅展示露骨性内容，部分生成内容还带有儿童特征。”他进一步批评称：“这不是’辣味’，这是违法的。这是令人震惊、令人作呕的。这就是我们的看法，这样的内容在欧洲没有任何立足之地。”
同一天，英国网络安全监管机构通信管理局表示，注意到用户对上述功能的担忧，已紧急联系X(平台)和xAI，以了解它们在履行保护英国用户的法定义务方面具体采取了哪些措施，之后将根据回复，判定是否存在“值得调查的潜在合规问题”。
