原文标题:Apple and Google ordered to purge ‘nudify’ apps from App Stores

旧金山市已命令苹果谷歌从其应用商店中删除数十个“裸体”应用程序,这些应用程序可以通过数字方式改变图片以脱光图片中的人的衣服。

加州法律将任何“故意促进”或“鲁莽地帮助或教唆”未经同意的深度伪造色情内容创作的活动定为刑事犯罪。 2025 年,加利福尼亚州还通过了一项法律,允许受害者对此类材料的第三方协助者提起民事诉讼。该市表示,尽管有这些众所周知的规定,两家科技公司仍在继续举办此类项目并从中获利。

旧金山市检察官 David Chiu 在发给 TechCrunch 的电子邮件声明中表示:“苹果谷歌正在通过生成未经同意的私密深度伪造品来利用剥削妇女和女孩的应用程序来获利。” “虽然这些公司切断了与一些有问题的应用程序的联系,但苹果谷歌有责任积极主动、保持警惕,防止性虐待。”

TechCrunch 看到了 Chiu 办公室发给谷歌苹果的信件,信中指出,这些公司已经“注意到”它们在“近一年来处理非法购买付款”方面所扮演的角色,但仍然继续这样做。

根据这些信件,两家公司都多次被警告称它们正在托管这些应用程序。今年 1 月和 4 月,技术透明度项目分别发布报告并向两家公司致函,指出其应用程序商店中有“数十个应用程序”“出售 Deepfake NCII [未经同意的亲密图像],以换取由公司处理的付款”。

TTP 4 月份的报告称,谷歌苹果有意“引导”用户使用此类应用程序,并称两家公司“是人工智能工具传播的关键参与者,这些工具可以将真人变成性感图像”。

此外,Chiu 告诉《连线》杂志,两家公司可能从提供此类服务的应用程序中赚取了“数百万美元的费用”。

邱办公室的信函警告称,苹果谷歌可能因违法而面临民事处罚,并要求他们在 28 天内联系市政府。

TechCrunch 联系了苹果谷歌请其置评。

尽管裸体应用程序使任何拥有公开照片的人都可能成为目标,但深度伪造色情内容在很大程度上一直是女性名人面临的问题。