据《科创板日报》，1月16日，美国企业家马斯克其中一名孩子的母亲阿什莉圣克莱尔起诉xAI公司，指控该公司旗下聊天机器人Grok“格罗克”生成并传播针对自己的深度伪造色情图像，并在她要求停止骚扰后取消了其平台账户订阅权限。
事件追溯至2025年1月，圣克莱尔发现“格罗克”应用户请求生成了她与友人的比基尼合成照。在她公开抗议后，平台承诺未经明确同意不再修改其图像，却未履行承诺。后续更出现大量衍生伪造内容。
诉讼称，“格罗克”篡改了包括她童年照片在内的真实图片，在马斯克的社交媒体平台X上传播她赤裸和处于其他性情境中的图像。圣克莱尔表示，她曾公开和私下要求删除这些图像，但xAI未能将相关内容下架。
此事让她生活在恐惧之中，担心不雅图像会被不断生成并被恶意利用。她强调，这不仅是对她个人的伤害，更是AI技术滥用带来的系统性风险。
据起诉书内容，圣克莱尔在起诉书中列出九项诉讼理由，包括疏忽、设计缺陷、故意造成精神痛苦以及公共滋扰等，并要求xAI进行惩罚性赔偿和补偿性赔偿。
据悉，1月15日，xAI公司已提起反诉，称依据平台的服务条款，圣克莱尔不能在纽约起诉该公司，而必须在得克萨斯州起诉。
此案恰逢xAI面临多重监管压力。
英国信息专员办公室（ICO）1月7日发布声明称，注意到有报道对“格罗克”制作的内容提出严重关切，“我们已联系X和xAI，以了解他们为遵守英国数据保护法和保护个人权利而采取的措施。在审阅他们的回复后，我们将尽快评估是否需要采取进一步行动”。
此外，印尼、马来西亚等国相关部门，也暂时限制访问马斯克旗下人工智能企业xAI的聊天机器人“格罗克”。1月16日，日本政府也表示，已要求社交媒体平台X采取措施，遏制利用其人工智能工具“格罗克”篡改和性化处理图像的行为。
在美国本土，“格罗克”也面临监管压力。当地时间1月14日，美国加利福尼亚州一名官员表示，鉴于“格罗克”出现并传播未经同意的违规图片并引发全球关注，他们要求该公司作出回应。
马斯克旗下社交平台X于当天发表声明称，将对其人工智能聊天机器人“格罗克”采取限制措施，禁止该功能生成真人裸露图像。
