一个没有真实佩戴体验的人工智能(AI)短剧女主,却在视频里说:“我的美瞳戴了一天,都很舒服。”这不是段子,而是“方桃子”带货风波。信用广东近日公布的行政处罚信息显示,因虚构使用效果、未取得医疗广告审查证明发布第三类医疗器械广告,被罚款6.83万元。虚拟人物被包装成“亲测者”,消费者的信任由此成了可以批量生产的营销素材。
AI虚拟人能不能带货?当然可以。技术本身不是问题,关键在于它如何影响消费者。如今,AI可以生成面孔、声音、生活场景,甚至看似自然的使用心得。当“我用过”“我推荐”不再对应真实使用者,消费者看到的究竟是产品信息,还是算法编排的信任表演?若连推荐者是否真实、体验是否发生都难以辨别,知情权和选择权就可能受到侵蚀。
监管正在回应这种变化。《人工智能生成合成内容标识办法》去年9月施行后,市场监管总局于今年3月进一步明确,以AI虚构的人物形象为产品、服务进行推荐、证明,却未对AI内容作出提示,可能造成消费者误解的,可以认定为虚假广告。中央网信办部署的“清朗·整治AI应用乱象”专项行动,也将AI造假、假冒仿冒、虚假宣传带货等列入治理重点。信号很清楚:AI可以创新表达,不能成为误导消费者的工具。
还要看到,标注“AI生成”不等于广告合规。标识解决知情问题,真实性决定广告能否成立。即使消费者知道屏幕里是虚拟人,也不能把虚构体验说成事实。广告主、制作运营者和平台,都应依实际行为和法定义务承担责任,不能让AI成为流量和利润的放大器,却成为责任的稀释剂。
AI降低了内容生产门槛,也在重塑广告产业。虚拟人可以成为演员、主播和品牌讲解员,但市场竞争不能靠制造虚假体验取胜。平台不能只享受流量红利,经营者也不能把技术当作免责挡箭牌。健康的AI商业生态,不是让虚拟人退出市场,而是让每一次推荐都经得起真实性检验。
技术越逼真,信息越应透明;商业越创新,责任越要清晰。消费者需要的不是一个永远说“好”的虚拟代言人,而是一个值得相信的市场。
(文章来源:证券时报)