12月15日,“微信珊瑚安全”微信公众号发布关于打击利用AI仿冒知名人士进行营销宣传的公告。
内容如下:
近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。为守护用户权益,避免消费者上当受骗,结合用户举报、日常巡查等线索,微信平台从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为,并针对相关情况开展专项治理。截至目前,累计处置内容532条,关闭账号209个。典型案例如下:
下一步,微信平台将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度,进一步提升技术治理能力和水平,维护良好生态。同时,微信平台也倡导广大用户自觉遵守法律法规与平台规则。针对“利用AI合成技术生成违规内容”的行为,平台欢迎广大网友提供更多线索,共同构建清朗有序的网络环境。
当下,AI合成技术已经非常成熟且已被频繁应用在短视频制作中。调取一段录像,输入一段语音,便能提取克隆相关的嗓音特质,并针对“自行设计”的台词,智能修改口型。
据央广网报道,利用AI技术炮制名人音视频作品以假乱真,甚至伪装成熟人、亲人实施精准诈骗的案例屡见不鲜。
对此,北京市京都律师事务所合伙人徐伟律师认为,未经授权使用AI换脸技术进行经营行为,已侵犯到当事人的肖像权。在这种情况之下,如果经营者有夸大产品功效、虚高产品价格的行为,消费者基于对当事人的信任而购买该产品,该行为还有可能构成诈骗罪。而且,最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》中明确,对利用“深度合成”等生成式人工智能技术发布违法信息的,依法从重处罚。
“AI换脸”技术的应用中,从视频最终的内容角度考量,如果有人利用换脸软件对他人进行恶意丑化、玷污式恶搞,或者将他人的脸换到不雅视频中,还会侵犯他人的名誉权。
此类事件中,徐伟认为除了经营者,AI技术提供者和视频平台,也需要承担相应的责任。
徐伟介绍,根据《互联网信息服务深度合成管理规定》,要求深度合成服务提供者提供深度合成服务,可能导致公众混淆或者误认的,必须在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况。目前一些较大的视频平台在许多AI生成的真人换脸视频下方都含有提示信息,在用户刷到AI生成内容的视频时,会标注“AI生成内容”或“疑似包含AI创作信息,请注意甄别真实度”等提醒。如果被投诉的虚假视频发现没有该类提示性标注,则平台难辞其咎。
视频平台若是对平台使用者的这种侵权行为不予恰当处理,则可能承担连带责任。平台具有一定的审查、监督职责,在被告知或发现此类违法行为后,应当积极响应权利人的请求,及时撤销、下架相关侵权图片、视频,中止相关直播等,避免恶劣影响的进一步扩大。相反,平台若是有意放纵此类行为的发生、继续,对相关投诉、举报等视若无睹则应当与侵权者承担连带责任。
(文章来源:每日经济新闻)