破解信息茧房困境,平台企业需要做什么?
2024年11月25日 20:55
来源: 21世纪经济报道
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈

  21世纪经济报道记者白杨北京报道 如今,大多数互联网用户都会有这样的体验:当你打开一款新闻资讯或短视频App时,会发现推送的内容总是与你兴趣高度契合。

  这种“贴心服务”的背后,是“推荐算法”在发挥作用。算法根据用户的兴趣、行为习惯以及社交关系,为其量身定制内容。这种机制让用户逐渐养成了依赖平台推荐的习惯,而非主动搜索信息。

  然而,算法在带来便利的同时,也无形中限制了用户的视野,使其陷入“信息茧房”。在这样的环境中,用户越来越多地接触到与其兴趣和观点相符的信息,从而形成一种自我强化的封闭生态,忽略甚至排斥与自身认知不符的内容。

  针对算法问题,监管部门也展开了新的行动。11月24日,中央网信办秘书局、工信部办公厅、公安部办公厅、国家市场监管总局办公厅等四部门宣布联合开展“清朗·网络平台算法典型问题治理”专项行动,即日起至2025年2月14日对网络平台算法存在的典型问题进行重点整治。

  专项行动聚焦多个重点问题,包括同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”以及算法向上向善服务缺失侵害用户合法权益等。

  针对此次专项行动,记者问询了多家网络信息平台企业,相关平台企业不予置评。

  工信部信息通信经济专家委员会委员盘和林向21世纪经济报道记者表示,专项行动的意义在于:一是维护网络安全与公共利益,防止信息茧房强化负面情绪并引发社会分裂;二是保护消费者权益,避免企业通过算法收割用户;三是促进算法的良性发展,推动数字技术高质量发展。

  强化平台算法责任

  事实上,对于“信息茧房”效应,业界一直存在争议。但可以确认的是,算法基于兴趣的个性化推荐,确实收窄了用户的信息接收范围,并减少了接受差异化讯息的可能性。

  一位资深互联网人士向21世纪经济报道记者表示,“信息茧房”正成为认知偏见的放大器。信息茧房通过强化用户的已有偏好,使“确认性偏见”(confirmation bias)愈发严重。这不仅让用户忽略其他重要信息,还可能导致误判。

  “同时,信息茧房降低了不同群体之间的对话意愿和能力。人们往往认为自己接触到的信息是全貌,而与其他观点冲突时,可能采取攻击性或防御性姿态。这种趋势可能进一步导致社会分裂和对立。”该人士指出。

  最初,是少量用户提前意识到了“信息茧房”的存在,于是他们试图通过自己的一些行为,来摆脱算法的影响。比如有的用户选择隐藏自己的行为,不点赞、不关注、不评论,让算法摸不清自己;有的用户则是严格控制自己使用各App的时间,与算法引发的沉浸效应做对抗。

  这些努力,确实能够降低算法的影响,但对绝大多数互联网用户来说,做起来很难,甚至也会失去很多乐趣。因此,更有效的方式应该是从算法本身着手,让平台承担起算法责任,这也是近年来,国家对算法监管的主要思路。

  比如2020年3月1日起施行的《网络信息内容生态治理规定》提出,网络信息内容服务平台采用个性化算法推荐技术推送信息的,要建立健全人工干预和用户自主选择机制。

  2022年3月1日起施行的《互联网信息服务算法推荐管理规定》,则是中国首部聚焦算法治理的立法,该规定针对算法推荐服务提供者提出全方位的义务和禁止性要求,提出算法安全风险监测、算法安全评估、算法备案管理等一系列监管举措,进一步强化了平台企业的算法安全责任。

  让算法变得更透明

  这次专项行动,针对“信息茧房”问题也提出了具体的治理任务,包括构建“信息茧房”防范机制,提升推送内容多样性丰富性;严禁推送高度同质化内容诱导用户沉迷;不得强制要求用户选择兴趣标签,不得将违法和不良信息记入用户标签并据以推送信息,不得超范围收集用户个人信息用于内容推送;规范设置“不感兴趣”等负反馈功能。

  记者注意到,在算法专项治理清单指引中,监管部门针对“信息茧房”也设置了5个核验要点,分别是用户兴趣选择、用户标签管理、“不感兴趣”功能设置、防沉迷举措成效、个人信息权益保障。

  国内某内容平台的相关负责人告诉记者,这些要求中的许多要求,现在各个平台基本都能做到。比如在用户兴趣选择方面,允许用户跳过标签选择页面;向用户提供“不感兴趣”选项,减少同类内容推送频率等。

  但是,像“提供兴趣标签查看功能,向用户展示用于内容推送的个人兴趣标签”“向用户提供用于个性化推荐服务的个人兴趣标签管理功能”等,目前几乎没有平台可以做到。

  该负责人表示,这些标签通常都存在于企业内部系统当中,一旦开放给用户且让用户可以自己管理,那对现有的推荐系统会带来较大影响。

  因此,这次专项行动或许会对内容平台的发展产生深远影响。毕竟,“信息茧房”现象的根源之一就是商业化算法的驱动。

  尽管在技术层面,算法是中立的,但其运用却往往带有明确的商业目标。比如为了提高用户黏性和点击率,平台往往优先推荐“迎合”用户兴趣的内容,而忽视内容的多样性和平衡性。

  因此,平台需要引入“去极化”的算法设计,包括在向用户提供兴趣内容的同时,主动推送与其认知框架不同的优质信息;以及增加推荐机制的透明度,让用户能更主动地选择信息来源。

  盘和林认为,平台需要强化算法治理体系建设,提升算法透明度,同时要给出用户权益保护的具体措施。他还提出,算法推荐不适用于避风港原则,平台不可以用这个原则封闭自身算法规则机制。

  “信息茧房”是数字时代技术与人性结合的产物,它既是对便利性的过度追求,也是社会多样性失衡的缩影。而打破“信息茧房”,离不开技术、平台、用户和政府的多方协同。

  从长远来看,治理信息茧房不仅关乎每个人的信息权益,更关乎社会的整体健康发展。只有通过多方努力,人们才能真正走出“茧房”,在技术便利与信息多样性之间找到平衡。

(文章来源:21世纪经济报道)

文章来源:21世纪经济报道 责任编辑:126
原标题:破解信息茧房困境,平台企业需要做什么?
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500