随着人工智能(AI)生成假裸照的工具被滥用,导致真实受害者案例频传,美国社会对此问题的担忧日益加剧。据美国《华尔街日报》16日报道,新泽西州一名17岁少女近日向法院提起诉讼,控告AI裸照生成软件“ClothOff”的开发公司以及通讯软件Telegram。

这名少女声称,她14岁时在Instagram(IG)上分享了一张泳装照片,结果被同校男生利用“ClothOff”生成了伪造的裸照,并在同学群组中散布。她指出,这些由AI工具制作的假影像让她长期陷入恐惧,并担忧这些照片可能被用于AI模型训练。

Advertisement

少女的法律代理团队由耶鲁大学法学院的教授与学生组成。他们指出,“ClothOff”的运营公司注册于英属维尔京群岛,而实际操作人员位于白俄罗斯。原告要求法院命令该公司删除所有未经同意获得的影像,并禁止将此类影像用于AI模型训练。

诉讼中,通讯软件Telegram也被列为名义上的被告。原告指控该平台允许自动化程序接入“ClothOff”,间接助长了违法影像的生成与传播。对此,Telegram回应表示,其使用条款中明确禁止非自愿色情内容及相关生成工具,一经发现就会删除,并声称已定期清除包括“ClothOff”在内的相关机器人。

《华尔街日报》报道指出,暗网上仍有用户分享“ClothOff”的链接,并用于制作儿童色情影像。旧金山市检察官大卫(David Chiu)去年曾对包括“ClothOff”在内的16个主要“深度伪造裸照”网站提起诉讼,成功迫使其中10多个关闭。他表示,对“ClothOff”的诉讼仍在进行中,并强调“在所有经营者被追究责任之前,我们不会停止”。

上一则新闻华裔男涉猥亵华裔女童 案件因法官变动又展延
下一侧新闻一夕关闭8600万账户 银行吓崩金融圈