巴以冲突中的生成式AI与信息真伪

注：本文不预设立场，写作目标是让大家思考生成式AI这项技术，与信息时代舆论、算法和新闻之间的关系。

一、关于新闻的真伪

很多人担心，巴以冲突会成为世界上第一次在局势升级的同时，还充斥着机器制造的虚假图像的战争，而社交媒体会成为第二个战场。

不过，就目前看来，在社交媒体上流传的所有图片和视频中，人工智能工具生成的内容还没有成为主流。尽管很多专家认为，本次巴以冲突，人工智能的作用会被放大，但目前还没有做到能在信息传播中发挥核心作用的程度(Digital Forensic Research Lab-Layla Mashkoor)。

但是未来一旦技术成熟，如果再次发生类似的冲突或者战争，又会怎么样呢？

二、生成式人工智能与新闻真伪的思考

如果我们跳出本次巴以冲突事件，去思考更多“信息”带给人类的影响。就笔者个人经历而言（2019年秋，笔者在香港读书，亲眼目睹了新闻信息对人们思维的影响），未来时代，辩证地思考生成式AI这项技术，和这些内容对社会的作用，无疑是非常重要的。

近期，哈佛大学肯尼迪学院《Misinformation Review》发表了一篇论文，探讨了生成式人工智能在全球虚假信息传播中扮演的潜在角色。从理论上讲，生成式人工智能可以让人们以飞快的速度传播虚假信息，但愿意相信虚假信息的人——通常是那些 "对机构信任度低”或者"本身就有强烈倾向 "的人，并且已经有大量耳熟能详的虚假信息可供选择。

生成式人工智能系统，能够通过对大量训练数据进行机器学习来生成新形式的数据。这种新数据可以包括文本（如谷歌的 Bard、Meta 的 LLaMa 或 OpenAI 的 ChatGPT）、视觉（如 Stable Diffusion 或 OpenAI 的 DALL-E）或音频。根据不同的指令，这些系统可以为大多数用户快速、轻松地生成输出内容，其复杂程度足以让人类认为这些内容与人类生成的内容无异。

包括一些领先的人工智能研究人员都认为，生成式人工智能，将使大规模创造逼真但虚假或误导性的内容变得更容易，具体问题可分为四类。

1. 伪造信息数量增加：由于易于获取和使用，生成式人工智能可用于大规模制造错误/虚假信息，对个人和有组织的行为者来说几乎不需要任何成本。错误信息数量增加使得居心不良的行为者可以用错误或误导性信息 "充斥整个区域"，从而淹没事实内容和/或制造混乱。

2. 容易误导信息的质量提升：由于人工智能的技术能力和易用性，生成式人工智能可用于制造更高质量的误导信息 提高误导信息的质量可增加其说服力，因为它制造的内容更可信、更难揭穿或验证。这要么会导致虚假信息的传播，要么会（随着错误信息数量的增加）导致认识危机，即用户们对所有类型的新闻普遍失去信任。

3. 错误信息的个性化程度提高 ：生成型人工智能可以生成有用的内容（例如，聊天机器人生成代码）。然而，它们也能生成看似可信、实则完全不准确的信息。因此，用户可以在无意中生成错误信息，而错误信息有可能传播误导消费者的信息。

4. 非自愿生成似是而非的虚假信息：生成型人工智能可以生成有用的内容（如聊天机器人生成代码）。然而，它们也能生成看似可信、实则完全不准确的信息。因此，用户可能无意中生成错误信息，而这些错误信息有可能传播给使用生成式AI工具的用户，也有可能传播给与他们分享信息的人。

三、提高辨证思考能力，怎么识别假新闻？

我问了一下ChatGPT怎么识别假新闻，它是这么说的：

识别假新闻是一个复杂的过程，因为制造假新闻的技术和方法不断进步。下面是一些帮助你识别假新闻的方法：

1. 检查来源: 查看发布新闻的网站或媒体是否可靠。查看它的域名，是否使用了模仿知名媒体的域名。同时，查看该网站是否有联系方式，版权声明等正式的信息。

2. 核实内容: 检查新闻报道中的事实信息。你可以使用搜索引擎，查看其他可靠媒体是否也报道了同样的新闻。

3. 注意作者: 查看作者的其他文章，看他们是否有发布虚假或误导性内容的历史。

4. 检查图片和视频: 有时候，假新闻会使用经过修改的图片或视频。你可以使用反向图片搜索工具，查看这些图片或视频是否在其他地方以不同的上下文出现过。

5. 分辨言辞: 假新闻通常会使用煽动性或极端化的言辞来吸引读者的注意。

6. 检查时间线: 确认事件的时间线是否合理，有时候假新闻会故意扭曲时间线来制造误导。

7. 查看来源链接: 假新闻通常不会提供可靠的来源链接，或者链接到不相关或同样可疑的网站。

8. 检查评论: 查看其他读者的评论，有时候他们会指出新闻中的错误或提供更多信息。

9. 留意专家意见: 假新闻往往会引用不存在或不可靠的专家意见。你可以搜索所引用的专家，看他们是否真的存在，以及他们的背景是否可靠。

10. 保持怀疑态度: 对任何看似异常或夸张的新闻保持怀疑态度，特别是当它激起强烈情绪时。

记住，即使是真实的新闻来源也可能偶尔犯错误。关键是要有批判性的思维，不要轻信任何未经验证的信息。

其他方法：

科瓦奇和罗森斯蒂尔在《真相》一书中向公众提出了六项必备的“新闻素养”，需要多问自己几个问题：

1. 我碰到的是什么内容？

2. 信息完整吗？假如不完整，缺少了什么？

3. 信息源是谁/什么？我为什么要相信他们？

4. 提供了什么证据？是怎样检验或核实的？

5. 其他可能性解释或理解是什么？

6. 我有必要知道这些信息吗？

参考资料：

1.Misinformation reloaded? Fears about the impact of generative AI on misinformation are overblown | HKS Misinformation Review (harvard.edu)

2.《真相——信息超载时代如何知道该相信什么》

3.Generative AI Is Playing a Surprising Role in Israel-Hamas Disinformation | WIRED