AI生成争议终结，X公司率先禁制比基尼照改图

埃隆·马斯克旗下xAI公司Grok因涉嫌生成色情内容引发全球争议 1月15日，埃隆·马斯克旗下的人工智能公司xAI及其AI聊天机器人Grok，因涉嫌生成色情内容，在全球范围内引发了巨大的争议。 X平台收紧Grok的图像编辑与生成功能 在经历了数周的舆论压力之后，X平台宣布对Grok的图像编辑与生成功能进行收紧。北京时间今天早间，X通过官方账号发文宣布，平台已采取技术手段，禁止Grok对现实人物图像进行编辑，尤其是涉及比基尼等暴露服装的内容。这一限制将覆盖所有用户，不区分是否为付费订阅者。 Grok的图像生成功能全面纳入付费订阅体系 与此xAI决定将Grok的图像生成功能全面纳入付费订阅体系，非付费用户将不再具备生成图像的权限。在法律明确禁止的地区，X还将直接封锁所有用户通过Grok生成现实人物身穿比基尼、内衣等服装图像的能力。 马斯克回应Grok生成裸露图片事件 据了解，马斯克曾回应称，并不知道Grok生成过任何裸露的未成年图片。他随后解释称，在启用NSFW选项的情况下，Grok理论上只应允许生成虚构成年人的上半身裸露内容，而不涉及现实人物，其尺度与Apple TV上R级电影相当。他补充说，此类限制会依据不同地区的法律要求作出调整。 加州总检察长调查xAI和Grok X发布声明的数小时前，加州已就xAI和Grok在AI生成色情内容方面的处理方式展开调查。加州总检察长罗布·邦塔指出，一项分析发现，在圣诞节到新年期间，xAI生成的约20000张图像中，超过一半涉及穿着极少的人物，其中包括疑似未成年人的形象。 Grok面临全球监管与舆论双重压力 此前，Grok因上述争议在全球范围内面临监管与舆论双重压力，多国政府及妇女、儿童权益组织呼吁苹果、谷歌将该应用下架。 印度尼西亚和马来西亚对Grok实施临时封禁 与此印度尼西亚因担忧其可能生成色情内容，上周已对Grok实施临时封禁，马来西亚随后也采取了临时访问限制措施。