警惕!未成年人上瘾AI虐向视频
家长们注意了,你手机里可能藏着孩子正在看的“恐怖动画”,播放量高达百万,由AI生成。
最近,不少家长发现孩子用大人手机看一些毛骨悚然的视频,可爱的玩偶遭受各种血腥暴力虐待,被扔进火锅,甚至上演“妈妈吃掉孩子”的恐怖情节。这类视频全是AI生成的,大量流传于抖音和B站等视频平台,一条展示虐待画面的名为“anon犬的观察实验”的视频,播放量已达141万。
这些视频打着“略向慎入”的标签,略向意思是“虐向”,通过病态的感官刺激博取关注,刻意制造猎奇、恐怖与不适吸引人观看,评论区里充斥着“还不够虐”等言论。当孩子们无意间点进去看了一个之后,算法还会推送更多同类视频。
针对“虐向”视频传播的问题,哔哩哔哩负责人表示,对最新出现的涉嫌侵害引导的内容已展开全面排查,从严管控,目前在搜索及内容端已展开定向处置。抖音表示,《抖音社区自律公约》鼓励用户创作积极、有价值的优质作品,对此类新型邪典内容坚决打击,已对相关违规内容予以下架处置。
AI时代让有害内容的生产变得更简单,推送观看防不胜防,无论是在社会伦理还是法律层面,都在挑战底线。虐向视频被有心之人利用、引流,甚至会催生畸形产业链,让未成年人价值观扭曲,产生社会危害性。
家长要注意了,多和孩子沟通,并立即检查孩子常用的设备,开启未成年人模式。监管部门和视频平台等各方也要尽快将责任落到实处。
(文章来源:21世纪经济报道)