3月24日，一则

“涉黄AI换脸案”的新闻

冲上热搜

有人将涉黄视频

AI换脸成暗恋女生

2020年

浙江杭州的虞某

接触了“AI换脸”软件

为吸引流量

他利用该软件

制作大量淫秽视频并传播

据虞某供述

为了吸引更多的关注和流量

他在社交软件上创建了

“浏览群”和“私人定制群”

“浏览群”主要用来

传播“AI换脸”的淫秽视频

吸引、招揽观看者

其中包括一些经过虞某换脸的视频

当有人提出“定制换脸”的需求

虞某会将这些人引入

所谓的“私人定制群

虞某声称

“只要能看到脸的都能换”

有人甚至要定制暗恋女生的换脸视频

据检察机关调查

虞某根据“AI换脸”视频的

长度、清晰度等难易条件

按照5分钟300元、10分钟500元等

标准来收取定制的费用

除追究刑责，检察机关

还提起民事公益诉讼

检察机关认为

作为“AI换脸”技术的使用者

虞某通过传播

侵犯公民个人信息的方法和手段

使得更多“不特定主体”个人信息

被侵害的社会危险性进一步扩大

因此

杭州市萧山区人民检察院

在依法追究虞某刑事责任外

同时还提起民事公益诉讼

杭州互联网法院经审理认为

虞某利用“AI换脸”技术

侵犯公民个人信息的

违法事实确凿

因此支持检察机关

作为公益诉讼起诉人的

全部诉讼请求：

判令被告虞某

删除非法获取的个人信息

公开赔礼道歉、消除影响

并赔偿损失

这些款项将专门用于

个人信息保护、

人脸深度合成技术

不当应用的治理等公益事项

最终

虞某犯制作、传播淫秽物品牟利罪

被判有期徒刑七年三个月

并处罚金6万元

注意！“AI换脸”

用来搞笑也存法律风险

法官认为

“AI换脸”技术

即便只是用来搞笑或者制作恶搞照片

也有可能涉及侵犯肖像权、名誉权

造成严重后果的

还可能构成侮辱罪或者诽谤罪

而“AI换脸”技术的滥用

看似是对被侵害的个人的

人格权、肖像权

名誉权、隐私权的侵害

实际上更是对社会公序良俗的践踏

是对稳定的社会环境

和清朗的网络空间的挑战

网友呼吁：尽快规范

看到审判结果

多数网友表示

支持严惩！坚决抵制！

有网友呼唤规范AI使用

有网友提醒

在网上发布照片要小心

注意保护好自己的隐私

发现不法行为第一时间报警