查看原文
其他

Nature速递:评估虚假信息的在线搜索增加感知到的信息可信度

集智编辑部 集智俱乐部 2024-03-19


关键词:虚假信息,搜索引擎,信息可信度



论文题目:Online searches to evaluate misinformation can increase its perceived veracity论文期刊:Nature论文地址:https://www.nature.com/articles/s41586-023-06883-y

传统观念认为,通过上网搜索来评估错误信息的真实性会降低人们对其的信任度。但近日发表于Nature的一项新研究表明,情况恰恰相反:通过搜索来评估虚假新闻文章的真实性实际上增加了人们相信错误信息的概率,而且增加的幅度非常明显。而这种现象主要集中在搜索引擎返回信息质量较低的人群中。这项研究成果让人们深入了解了搜索引擎的输出对用户的影响。

使用在线搜索引擎评估虚假或误导性观点,这一方法受到了科技公司和政府机构等的鼓励,但对其实际影响却研究不足。该研究通过Qualtrics和亚马逊的 Mechanical Turk 这些行为科学研究中经常使用的工具招募参与者,进行了一系列共五项实验,目的是衡量一种常见行为的影响:通过在线搜索来评估新闻。前四项研究测试了在线搜索行为的以下方面及其影响:

1)在线搜索对在文章发表两天内直接相信虚假或误导性新闻和真实新闻的影响(虚假热门文章包括有关 COVID-19 疫苗、特朗普弹劾程序和气候事件的报道);

2)在线搜索的效果是否能改变个人在评估新闻真实性后的评价;

3)在线搜索对新闻发布数月后的效果;

4)在线搜索对近期有重要新闻报道的突出主题新闻的影响(在本研究中,是关于 COVID-19 大流行病的新闻)

图1:在第 1 至第 4 项研究中,在线搜索错误信息对错误信息可信度的影响

第五项研究调查与网络跟踪数据相结合,以确定接触低质量和高质量搜索引擎结果对误导信息的影响。通过使用定制的网络浏览器插件收集搜索结果,研究人员可以确定这些搜索结果的质量会如何影响用户对所评估的错误信息的相信程度。

这项研究的来源可信度评级是由NewsGuard确定的,NewsGuard是一个浏览器插件,可以对新闻和其他信息网站进行评级,以指导用户评估他们在网上看到的内容的可信度。

图2:a)在网上搜索虚假/误导或真实文章时,在谷歌搜索结果中接触到不同程度不可靠新闻网站的个人比例。b)线性回归模型的平均处理效果和 95% 置信区间。c,d)新闻质量最低四分位数和新闻质量次低四分位数的受访者中,与对照组相比,个人将虚假/误导性文章评为真实的概率。


在这五项研究中,作者发现,上网搜索以评估新闻的行为会导致对错误信息的相信程度出现统计学意义上的显著增加。无论是在错误信息发布后不久还是几个月后,这种情况都会发生。

图3:对评估网上错误信息时接触到不可靠新闻网站的个人进行分析。a)人口统计学变量对在线搜索虚假/误导性新闻文章时接触到不可靠新闻来源的概率的影响。b)在网上搜索虚假/误导性文章时,谷歌搜索返回不同数量的不可靠新闻网站的比例。c)人口统计学变量对在线搜索虚假/误导性新闻文章时点击特定标题的概率的影响


这一研究结果表明,时间的流逝——表面上看是事实核查进入信息生态系统的机会,并没有减轻在线搜索对增加相信虚假新闻报道为真的可能性的影响。此外,第五项研究表明,这种现象主要集中在搜索引擎返回的信息质量较低的人群中。

这些发现突出表明,媒体扫盲项目需要将建议建立在经过实证检验的干预措施基础上,搜索引擎也需要投资于解决本研究发现的挑战。而未来的研究者,可将搜索引擎换成大模型对话,探讨与ChatGPT探讨新闻真实性对虚假信息评价产生的影响。



编译|郭瑞东

计算社会科学读书会第二季



详情请见:

数据与计算前沿方法整合:计算社会科学读书会第二季启动


推荐阅读
1. PNAS速递:如何减少虚假信息泛滥?限制社交网络中的转发次数及人数
2. 信息流行病综述:虚假信息的易感性、传播和免疫
3. 挖掘虚假信息和虚假新闻:概念、方法和最新进展 | 网络科学论文速递25篇
4. 张江:第三代人工智能技术基础——从可微分编程到因果推理 | 集智学园全新课程
5. 加入集智学园VIP,一次性获取集智平台所有内容资源
6. 加入集智,一起复杂!


点击“阅读原文”,报名读书会

继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存