人气女性“裸照”疯传？原来是“AI换脸”制成

 “AI换脸”近期可以说红遍互联网。但也给了一些犯罪份子可乘之机。

  前一阵，有人因用AI换脸和女明星“亲吻”遭到网暴，一些“AI换脸”的APP也会使用明星的图片制作换脸视频进行推广，其趣味性背后暗藏不少法律风险和侵权纠纷。

 4月7日，浙江杭州萧山区检察院曝光的一个“女神群”，引发关注——

 据了解，“AI换脸”技术的走红，让80后安徽小伙虞某嗅到了商机。他想到在网上推广该项技术及相关的软件，并从中获利。但一段时间过去，虞某却始终没有获得什么关注度。偶然的一次机会，虞某看到有些人会在群里发布一些淫秽信息来吸引他人关注，就也动起了歪脑筋。

 虞某先是将原本建的“换脸软件资源群”的群名更改为“女神试看群”，后又通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽观看者加入。当观看者达到一定人数后，虞某会发布群消息称，缴纳198元-498元不等的“会费”，进入“内部群”可以收看完整版。

  除此之外，虞某表示，“内部群”里发送的淫秽视频有不少是由其本人使用“AI换脸技术”合成的，根据顾客的需要还可以使用不同的女明星的形象，进行“私人定制”。也有不少人因为看了这些视频后对换脸技术产生了兴趣，向其咨询如何购买换脸软件。

  一面通过“吸粉引流”，收取会费；一面又通过出售“换脸软件”，频频获利。虞某短短几个月的时间里就收获了数万元。经警方查实，几位人气女明星更是成了虞某“AI换脸”淫秽视频的“重灾区”。截至案发，公安机关共在虞某所组建的公开群内查证淫秽视频1200余部、图片1600余张，经鉴定，上述均系淫秽物品。

  2023年3月28日，萧山区检察院依法以制作、传播淫秽物品牟利罪对虞某提起公诉。案件目前正在法院审理中。

  近日，多起AI换脸或AI换装的争议事件引起网友讨论。可以说它是面双刃刀，需要制定法律的监管，更要网民提高自身的素养。