天大主页 | 设为首页 | 添加收藏
首页 > 综合新闻 > 正文

为“算法推荐”造把衡量尺:天大新传学院研发平台为算法推荐服务做评估

      2022-09-01       

本站讯(记者 刘晓艳)事实上你在上网爽快地浏览信息或刷视频不亦乐乎时,平台背后的“算法”已经在飞快猜测你的小心思,并不断给你推送,让你欲罢不能。然而,这样的“算计”,是不是暴露了你的隐私?是不是一些信息已经被自动过滤掉以至于你看到的都是同类的单一信息?如果是未成年人,“青少年模式”下,那些敏感的主题是否被有效过滤掉了……互联网中,信息算法无处不在,却不一定是合理合规的。近日,天津大学新媒体与传播学院自主研发的互联网信息服务算法评估平台,面向算法服务进行黑盒评估,取得重要进展。这意味着,“算法”有了衡量尺,有了这把尺,给“算法”戴上紧箍咒的日子也就不远了。

近年来,算法技术发展迅速,基于数据分析的个性化信息推送服务技术等算法技术介入移动平台信息分发,已经使新闻传播进入智能传播时代,也对社会生活、公众认知和意识形态具有越来越大的支配作用。然而,推荐算法不断推送某类信息已令用户心生厌倦,学界对算法推荐服务催生各种“信息茧房”、伦理问题不断呼吁警惕和担忧。2022年1月,国家网信办等四部门出台《互联网信息服务算法推荐管理规定》,对算法推荐服务提供者进行规范,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务健康发展。但与之配套的概念、定义、标准、规则和具体监管方法,却仍在探索之中。

天津大学新媒体与传播学院正在自主研发的互联网信息服务算法评估平台, 构建了测试数据生成模块、主题判别模块、算法评测模块,实现了对内容个性化推送的多维度评测,以及对未成年人网络保护义务履职情况的评测。比如,针对未成年人算法推荐,该评估平台既包含了测试给未成年人推荐的内容是否包含不应该向未成年人推送的敏感主题相关的内容,也包含了度量给未成年人和成年人推送的内容之间的差异,从而分析该算法推荐服务是否区别对待了未成年人和成年人,并且向未成年人提供了符合管理规定的服务。

对于该评估平台,天津大学新媒体与传播学院院长陆小华教授在8月29日受邀出席2022年中国网络文明大会“算法治理论坛”时表示,“以主流价值导向驾驭算法”是党中央的明确要求,也是《互联网信息服务算法推荐管理规定》核心规则的重要体现。社会期待网络平台在按照相关法律法规规定的要求落实用户所具有的算法服务选择权、拒绝权和对个人权益是否有重大影响的说明要求权等等方面有更快更大进展。面对智能传播,政府、平台、社会也应当携手进一步开展关于算法推荐服务的网络素养教育,告诉网民特别是年轻网民如何看待、识别、选择、防范算法推荐服务的负面影响甚至危害。

未来,天津大学也将继续对互联网信息服务算法评估平台进行迭代升级,进一步完善算法监管的标准和方法,提升算法综合治理的专业监管能力,以主流价值导向驾驭算法,守牢意识形态安全底线,保障公众利益与国家安全。

(编辑刘晓艳 万梦方)