机器学习揭示网络仇恨的隐秘脉络：一项挪威12年研究的启示
机器学习揭示网络仇恨的隐秘脉络：一项挪威12年研究的启示一项针对挪威Facebook和X平台帖子的长期研究表明，仇恨...
机器学习揭示网络仇恨的隐秘脉络：一项挪威12年研究的启示
一项针对挪威Facebook和X平台帖子的长期研究表明，仇恨言论呈增长趋势，但大部分毒性内容源自一小部分用户。
挪威社会高度重视开放且相互尊重的线上辩论，但仇恨言论正在侵蚀这一公共空间。借助机器学习技术分析网络中的反穆斯林仇恨言论，研究发现仇恨帖子的数量呈上升趋势，并且这些帖子主要由一小部分用户发布。这些发布仇恨言论的人往往不会长期活跃在同一账号中。这意味着，除了删除帖子和“不理睬网络喷子”之外，与他们进行沟通并促使其改变行为，或许是一种有效的应对策略。
挪威的公共辩论正日益转移到线上。社交媒体平台不仅是人们分享新闻、讨论政治、表达对宗教与身份认同看法的场所，也成为仇恨言论迅速滋生的温床。
奥斯陆城市大学高级研究员尤里·笠原领导了挪威首批利用机器学习大规模分析反穆斯林仇恨言论的研究项目之一。该项目与挪威儿童、青少年与家庭事务局合作，收集并分析了2010年至2022年间来自Facebook和X（原Twitter）上约一百万条公开评论。
这项研究提供了一个难得的、基于数据的视角，帮助我们理解仇恨言论如何演变、由谁制造，以及这对一个自视为崇尚开放与理性辩论的社会意味着什么。
机器学习的转型力量
机器学习是一种能够训练人工智能识别和分类文本的技术。与生成式人工智能（如ChatGPT）不同，机器学习的目的并非生成通用答案，而是从海量数据中提取出有意义的模式和洞见。
笠原将机器学习应用于社会科学问题。在过去几年中，他开发了一个专门识别社交媒体上反穆斯林仇恨言论趋势的模型，以更好地理解并应对这一令人不安的现象。
研究仇恨言论向来是一项繁重的工作。研究人员需要手动收集帖子、逐条阅读、按主题分类，再进行统计分析。
“过去，你可能只能从Facebook或X上获取几千条评论，然后手动分类，再做一些统计，”笠原解释道。“但大数据和机器学习让我们能够更全面地了解挪威社交媒体上仇恨言论的演变过程——在这个案例中，是针对穆斯林少数群体的仇恨言论。”
借助机器学习，他们得以收集并分析约一百万条来自Facebook和X的公开评论。值得注意的是，随着这些平台后来调整了数据访问政策，如今再进行类似的研究已变得更加昂贵和困难。
训练模型的艰辛之路
机器学习使这项研究成为可能，但当时几乎没有可用于分析挪威语仇恨言论的模型。挪威语中包含大量俚语、方言和文化特有的表达方式，难以准确翻译或直接套用其他语言的模型。
因此，笠原首先必须构建自己的模型。“我和一位同事仔细梳理了近4000条评论，进行了人工分类，阅读了大量内容——其中很多是无聊甚至令人不适的内容——以训练出一个能够捕捉这些语言细微差别的模型。”
他说这是一个痛苦却必不可少的过程。一旦模型训练完成，它便能高效处理数百万条帖子。
当笠原和他的团队分析这些帖子——包括回复、转发以及新闻文章下的评论区时——他们能够追溯讨论如何随时间展开，并衡量随着对话规模的扩大，言辞是否变得更加充满敌意。
一个珍视文明辩论的国家
“挪威是一个独特的案例。他们非常关注公共话语的质量，并努力维护健康的辩论环境，”笠原说。“我认为这是挪威社会的优点之一——他们非常重视人们能够以文明、礼貌的方式进行讨论。”
每当重大新闻事件发生时，反穆斯林的仇恨言论往往随之涌现。这些言论常常依赖于刻板印象，将穆斯林描绘为压迫者、与恐怖主义挂钩，或声称“他们正在接管欧洲”。因此，了解这些言论的本质及其传播方式，对维护一个自由、开放的挪威社会至关重要。
仇恨言论正在增长
笠原发现，在12年的研究期间，对话中仇恨评论的比例从大约1%上升到了约4%。虽然这一比例看似不高，但其影响却十分显著，仇恨评论的总量也在持续增加。
然而，衡量这些言论的变化并不简单。在短期内训练的机器学习模型，可能无法准确识别那些使用不同语言或更隐晦表达的早期或后期仇恨言论。
研究也面临其他限制：它只关注新闻文章下的评论，未涉及针对特定公职人员（如穆斯林政治家）的攻击，而后者往往承受着更高强度的辱骂。此外，由于《通用数据保护条例》等严格的隐私法规，研究人员无法获取用户的背景信息（如年龄、性别、地理位置等）。
尽管如此，这些研究结果仍为仇恨言论的传播机制和发布者特征提供了宝贵的见解。
少数人制造的多数仇恨
一个令人鼓舞的发现是：绝大部分反穆斯林仇恨言论来自一小部分用户。
虽然机器账号、境外煽动者和有组织的虚假信息活动确实存在，但笠原指出，主要发布仇恨言论的人看起来是真实用户。值得注意的是，在这项长达12年的研究中，发布仇恨言论最多的用户群体并非一成不变，而是在不断更替。
“存在一种动态变化，”笠原说。“有些人会在一段时间内对某个群体或个人表现出极强的敌意，但随后他们可能幡然醒悟，决定改变自己的生活，选择退出这种状态。”
奥斯陆城市大学高级研究员尤里·笠原
图片来源：约阿希姆·恩格尔斯塔 / 奥斯陆城市大学
这意味着网络仇恨言论既是一种结构性现象，也具有深刻的个人化和暂时的特征。一些人会在某个阶段表现出强烈的仇恨情绪，随后因观念转变、面临现实后果或仅仅是兴趣消退而停止。
这一发现对如何应对仇恨言论具有重要启示。挪威有专门针对仇恨言论的法律，平台可以封禁违规者，大量正面评论也可以稀释有毒内容。但笠原认为，仅靠管控和压制是不够的。
“应对仇恨言论不应仅限于命令与控制式的策略，”他表示。尽管“不理睬网络喷子”这一通用原则仍然适用，但他强调：“我们确实也需要与这些人进行接触，尝试与他们对话，引导他们改变。”
仇恨之外：方法的延伸
笠原的研究项目虽已告一段落，但他和同事们正将类似的机器学习工具应用于分析挪威市级青年委员会的讨论内容。其目标是更好地理解年轻人在地方政治辩论中支持什么、反对什么，以及他们的言论如何影响公共决策。
利用机器学习分析仇恨言论，虽无法彻底消除仇恨，却能揭示其背后的模式。通过追踪仇恨言论的演变轨迹，理解其动态机制，研究人员可以为平台和政策制定者提供应对仇恨的有力工具。对于一个致力于维护开放、理性公共话语的国家——挪威而言，这种洞察至关重要。
一项针对挪威Facebook和X平台帖子的长期研究表明，仇恨言论呈增长趋势，但大部分毒性内容源自一小部分用户。
挪威社会高度重视开放且相互尊重的线上辩论，但仇恨言论正在侵蚀这一公共空间。借助机器学习技术分析网络中的反穆斯林仇恨言论，研究发现仇恨帖子的数量呈上升趋势，并且这些帖子主要由一小部分用户发布。这些发布仇恨言论的人往往不会长期活跃在同一账号中。这意味着，除了删除帖子和“不理睬网络喷子”之外，与他们进行沟通并促使其改变行为，或许是一种有效的应对策略。
挪威的公共辩论正日益转移到线上。社交媒体平台不仅是人们分享新闻、讨论政治、表达对宗教与身份认同看法的场所，也成为仇恨言论迅速滋生的温床。
奥斯陆城市大学高级研究员尤里·笠原领导了挪威首批利用机器学习大规模分析反穆斯林仇恨言论的研究项目之一。该项目与挪威儿童、青少年与家庭事务局合作，收集并分析了2010年至2022年间来自Facebook和X（原Twitter）上约一百万条公开评论。
这项研究提供了一个难得的、基于数据的视角，帮助我们理解仇恨言论如何演变、由谁制造，以及这对一个自视为崇尚开放与理性辩论的社会意味着什么。
机器学习的转型力量
机器学习是一种能够训练人工智能识别和分类文本的技术。与生成式人工智能（如ChatGPT）不同，机器学习的目的并非生成通用答案，而是从海量数据中提取出有意义的模式和洞见。
笠原将机器学习应用于社会科学问题。在过去几年中，他开发了一个专门识别社交媒体上反穆斯林仇恨言论趋势的模型，以更好地理解并应对这一令人不安的现象。
研究仇恨言论向来是一项繁重的工作。研究人员需要手动收集帖子、逐条阅读、按主题分类，再进行统计分析。
“过去，你可能只能从Facebook或X上获取几千条评论，然后手动分类，再做一些统计，”笠原解释道。“但大数据和机器学习让我们能够更全面地了解挪威社交媒体上仇恨言论的演变过程——在这个案例中，是针对穆斯林少数群体的仇恨言论。”
借助机器学习，他们得以收集并分析约一百万条来自Facebook和X的公开评论。值得注意的是，随着这些平台后来调整了数据访问政策，如今再进行类似的研究已变得更加昂贵和困难。
训练模型的艰辛之路
机器学习使这项研究成为可能，但当时几乎没有可用于分析挪威语仇恨言论的模型。挪威语中包含大量俚语、方言和文化特有的表达方式，难以准确翻译或直接套用其他语言的模型。
因此，笠原首先必须构建自己的模型。“我和一位同事仔细梳理了近4000条评论，进行了人工分类，阅读了大量内容——其中很多是无聊甚至令人不适的内容——以训练出一个能够捕捉这些语言细微差别的模型。”
他说这是一个痛苦却必不可少的过程。一旦模型训练完成，它便能高效处理数百万条帖子。
当笠原和他的团队分析这些帖子——包括回复、转发以及新闻文章下的评论区时——他们能够追溯讨论如何随时间展开，并衡量随着对话规模的扩大，言辞是否变得更加充满敌意。
一个珍视文明辩论的国家
“挪威是一个独特的案例。他们非常关注公共话语的质量，并努力维护健康的辩论环境，”笠原说。“我认为这是挪威社会的优点之一——他们非常重视人们能够以文明、礼貌的方式进行讨论。”
每当重大新闻事件发生时，反穆斯林的仇恨言论往往随之涌现。这些言论常常依赖于刻板印象，将穆斯林描绘为压迫者、与恐怖主义挂钩，或声称“他们正在接管欧洲”。因此，了解这些言论的本质及其传播方式，对维护一个自由、开放的挪威社会至关重要。
仇恨言论正在增长
笠原发现，在12年的研究期间，对话中仇恨评论的比例从大约1%上升到了约4%。虽然这一比例看似不高，但其影响却十分显著，仇恨评论的总量也在持续增加。
然而，衡量这些言论的变化并不简单。在短期内训练的机器学习模型，可能无法准确识别那些使用不同语言或更隐晦表达的早期或后期仇恨言论。
研究也面临其他限制：它只关注新闻文章下的评论，未涉及针对特定公职人员（如穆斯林政治家）的攻击，而后者往往承受着更高强度的辱骂。此外，由于《通用数据保护条例》等严格的隐私法规，研究人员无法获取用户的背景信息（如年龄、性别、地理位置等）。
尽管如此，这些研究结果仍为仇恨言论的传播机制和发布者特征提供了宝贵的见解。
少数人制造的多数仇恨
一个令人鼓舞的发现是：绝大部分反穆斯林仇恨言论来自一小部分用户。
虽然机器账号、境外煽动者和有组织的虚假信息活动确实存在，但笠原指出，主要发布仇恨言论的人看起来是真实用户。值得注意的是，在这项长达12年的研究中，发布仇恨言论最多的用户群体并非一成不变，而是在不断更替。
“存在一种动态变化，”笠原说。“有些人会在一段时间内对某个群体或个人表现出极强的敌意，但随后他们可能幡然醒悟，决定改变自己的生活，选择退出这种状态。”
奥斯陆城市大学高级研究员尤里·笠原
图片来源：约阿希姆·恩格尔斯塔 / 奥斯陆城市大学
这意味着网络仇恨言论既是一种结构性现象，也具有深刻的个人化和暂时的特征。一些人会在某个阶段表现出强烈的仇恨情绪，随后因观念转变、面临现实后果或仅仅是兴趣消退而停止。
这一发现对如何应对仇恨言论具有重要启示。挪威有专门针对仇恨言论的法律，平台可以封禁违规者，大量正面评论也可以稀释有毒内容。但笠原认为，仅靠管控和压制是不够的。
“应对仇恨言论不应仅限于命令与控制式的策略，”他表示。尽管“不理睬网络喷子”这一通用原则仍然适用，但他强调：“我们确实也需要与这些人进行接触，尝试与他们对话，引导他们改变。”
仇恨之外：方法的延伸
笠原的研究项目虽已告一段落，但他和同事们正将类似的机器学习工具应用于分析挪威市级青年委员会的讨论内容。其目标是更好地理解年轻人在地方政治辩论中支持什么、反对什么，以及他们的言论如何影响公共决策。
利用机器学习分析仇恨言论，虽无法彻底消除仇恨，却能揭示其背后的模式。通过追踪仇恨言论的演变轨迹，理解其动态机制，研究人员可以为平台和政策制定者提供应对仇恨的有力工具。对于一个致力于维护开放、理性公共话语的国家——挪威而言，这种洞察至关重要。
奥斯陆城市大学-相关新闻
