极端组织正在深入研究人工智能，尤其是生成式人工智能，以扩大其宣传力度。专家们对生成式人工智能破坏大科技公司在内容节制方面取得的进步的可能性感到震惊。技术反恐怖主义组织的亚当-哈德利（Adam Hadley）表达了自己的担忧、

如果恐怖分子开始使用基因人工智能大规模操纵图像，这很可能会摧毁散列共享这一解决方案；

新出现的威胁：极端分子操纵人工智能引发担忧

多年来，大科技公司依靠哈希数据库迅速删除已知的极端主义内容。然而，"科技反恐 "现在每周都能识别出大约 5000 例人工智能生成的内容。其中包括与真主党和哈马斯有关联的团体的内容，这些内容塑造了以色列-哈马斯冲突的叙事。

哈德利预测说，自动化技术的威胁迫在眉睫、

给它六个月左右的时间，[他们]操纵图像来破解散列的可能性确实令人担忧；

科技反恐组织最近的调查结果显示，极端分子对人工智能的使用延伸到了新纳粹的信息渠道、极右翼的记忆战争指南，以及为人工智能生成工具提供技术支持的伊斯兰国。

将威胁扩展到图像之外：人工智能在多语言宣传和招募中的作用

风险不仅限于图像处理。科技反恐》报告强调了自动翻译工具将宣传内容转换成多种语言，以及为在线招募创建个性化信息。哈德利认为，人工智能也可以成为打击极端分子的主动工具。

科技反恐与微软联手开发新一代人工智能检测系统

为了应对新出现的威胁，科技反恐组织正在与微软公司合作开发一个人工智能基因检测系统。哈德利表示："我们有信心，人工智能可以用来抵御对人工智能的敌对使用。

这项合作旨在增强缺乏人工智能研究中心的小型平台的能力。哈德利强调了这些平台的重要性，他说："即使是现在，有了散列数据库，较小的平台也会被这些内容淹没；

新出现的威胁：人工智能生成的儿童剥削材料呈上升趋势

人工智能生成内容的影响范围超出了极端组织。互联网观察基金会（Internet Watch Foundation）报告称，暗网上人工智能生成的儿童性虐待材料激增，一个月内就识别出 20,000 多张与真实图片无异的图片。人工智能生成工具带来的威胁要求我们齐心协力保护网络空间。