女子声称继父利用Grok将童年照片转换为色情图像

一位被称为Jane Doe 4的女子加入了由三名田纳西州青少年提起的诉讼，起诉Elon Musk的xAI，指控该公司的聊天机器人Grok涉嫌参与了制作儿童性虐待材料。据《华盛顿邮报》报道，该女子声称她的继父利用Grok将她11岁时的一张照片篡改，制作了超过7000张她的色情图像。该女子还表示，她的继父在执法部门突击搜查后被发现自杀身亡，当时这些图像被曝光。该女子说：“这些工具的无限获取正在迅速蔓延”，“它把日常生活变成了儿童性虐待。”提起诉讼的青少年指控xAI（现为SpaceX的一部分）未能采取基本预防措施，防止Grok被用于制作真实人物（包括未成年人）的色情图像。（今年早些时候，X上充斥着数百万张由Grok生成的性化图像。）他们正在寻求集体诉讼资格。TechCrunch已联系xAI寻求评论。如果你处于危机或有自杀念头，请拨打或发送短信988联系988自杀与危机生命线。更快扩展。增长你的投资组合。获得实用专业知识。无论你的目标是什么，Disrupt都能帮助你。立即节省高达300美元！订阅获取行业最大的科技新闻。每个工作日和周日，你都可以获得TechCrunch报道的精华。TechCrunch Mobility是你的交通新闻和见解目的地。创业公司是TechCrunch的核心，所以每周获取我们最好的报道。为有影响力的人士提供他们开始一天所需的信息。

一名女性加入对xAI的诉讼，指控继父使用AI聊天机器人Grok将其童年照片制成数千张色情图像，引发对AI安全与法律责任的关注。

• 一名女性加入对xAI的诉讼，指控继父使用AI聊天机器人Grok将其童年照片制成数千张色情图像，引发对AI安全与法律责任的关注。
• 原贴提到：A woman identified as Jane Doe 4 has joined a lawsuit filed by three Ten
• 来源：techcrunch.com

这一事件是一个极具冲击力的信号：AI生成工具被直接用于制造儿童性虐待材料（CSAM），且规模巨大——单一个案就涉及7000多张图像。这表明，当前主流AI对话模型在生成图像方面缺乏必要的防护机制，用户几乎可以无门槛地将普通照片转化为露骨内容。

为什么重要？因为AI技术的普及使得原本需要专业技能的性侵犯罪行变得低门槛化，尤其针对未成年人的伤害更为隐蔽和深远。xAI被指控未能采取“基本预防措施”，这反映出整个行业在AI安全设计上的普遍滞后。此前X平台已出现大量Grok生成的性化图像，但公司似乎未有效应对，最终导致法律诉讼。

对谁有价值？AI企业应从本案中吸取教训：技术不能免于责任；法律界可借鉴此案推动AI伦理立法；家长和教育者需警示未成年人隐私保护；普通公众也应意识到AI工具的滥用风险。对监管机构而言，这是加快制定AI内容安全标准的现实案例。

可以怎么行动？AI公司应在模型训练中嵌入安全过滤，限制对真实人物图像的敏感操作，并建立生成溯源机制；同时设立用户举报通道和主动监测系统。政府应明确AI服务提供商对第三方滥用的责任，推动强制性审计。个人应避免分享儿童照片至不可信平台，并关注隐私设置。

风险或限制：诉讼可能面临举证困难，因为很难证明Grok是否被设计用于生成CSAM，还是被用户恶意绕过限制。xAI可能会辩称用户责任为主，法律尚存空白。此外，AI生成图像往往介于虚构和真实之间，如何界定“受害者”身份也是司法挑战。此案仍有很长的审理过程，但已为AI治理敲响警钟。

这条内容的真正价值，不只是“有人发布了一个新功能”，而是它揭示了 techcrunch.com 背后的产品方向、工作流变化或竞争信号。对 OPC 来说，这种信息可以转化成持续追踪的栏目选题。

如果把《女子声称继父利用Grok将童年照片转换为色情图像》放到你的内容系统里，它最大的价值在于帮助读者更快看懂“为什么值得关注”，而不是只看到一条碎片化动态。

• Anthony Ha 原帖