Google的孵化器子公司Jigsaw开源了一个反恐工具，旨在帮助小公司处理通过其网络平台共享的极端主义内容。虽然大多数大型科技公司，包括 Meta、X 和Google本身，都精通内容审核，以剔除非法或有毒内容，但所需的资源却超出了许多小型数字公司的能力范围。在欧洲《数字服务法案》（DSA）等立法和针对恐怖主义的内容规定要求公司尽快删除非法内容的压力越来越大的情况下，这一点尤其成问题。

Jigsaw 的前身是Google创意（Google Ideas），2016 年进行了品牌重塑，主要致力于开发和试验新产品，以解决虚假信息、审查制度以及有毒和极端内容在网上传播等社会问题。去年11月，Jigsaw发布了一款名为"Altitude"的新在线内容审核工具，帮助审核人员验证其平台上的内容是否与第三方数据库中标记的内容一致，而不必逐一检查每个来源。

Altitude 是与"科技反恐"（TechAgainst Terrorism）合作开发的，"科技反恐"是联合国反恐怖主义委员会执行局（CTED）于 2017 年发起的一项倡议。科技反恐的职责是支持科技行业开发更有效的工具，解决恐怖分子利用互联网传播有害内容的问题。该工具也是与 行业主导的全球互联网反恐论坛（GIFCT）合作开发的，该论坛的成员包括大多数大型科技公司。

九个月过去了，Jigsaw 现在正式将 Altitude 移交给 Tech Against Terrorism，后者将继续开发和维护 Altitude。代码现在也可以在 GitHub 上以Apache 2.0 许可的方式获取，这意味着公司可以自行托管该工具，第三方也可以检查代码。

Altitude 依赖于 GIFCT 等组织提供的"可信"数据源，这些组织的成员将其专有信息汇集起来，为自动内容审核工具（如 Altitude）提供动力，此外还有 Tech Against Terrorism 自己的恐怖分子内容分析平台，这是一个实时、经过验证的恐怖分子内容数据库。可信来源使用自己的方法识别和标记这类内容。

通过向这些数据库输送信息，Altitude 将其所谓的"恐怖主义和暴力极端主义内容"（TVEC）整合到一个单一的视图中，版主可以迅速查看、审查和删除内容，并履行其在任何管辖范围内运作的义务。值得注意的是，任何内容都不会被自动删除，它只是对潜在的极端主义内容进行标记并发出警报，以便人工进行评估。

Jigsaw 和 Tech Against Terrorism 都没有透露在 Altitude 初期测试期间使用过它的平台，但最有可能使用它的应用程序包括消息应用程序、URL 缩短服务、视频托管网站、在线论坛、社交网络和粘贴程序。

Jigsaw周一在一篇博文中写道：

在一年的时间里，Jigsaw 对 11 个规模不等的平台的创始人、信任和安全负责人以及 TVEC 内容审查员进行了访谈。这些平台包括图片共享平台、社交媒体网站、网址缩短服务以及文件和文本存储网站。我们发现，各平台在管理 TVEC 方面的资源配置和准备程度不尽相同，而准备程度与其组织或用户群的规模并无明显关联。即使是相对成熟的服务机构，有时也缺乏主动识别平台危害的信号。我们还看到，虽然他们最终可能更愿意将所有工具整合到一个内部平台中，但在资源不足的环境中，为专门的危害提供一个单独的界面可能是一种起步方式。

作为一个开源项目，任何公司都可以将 Altitude 整合到自己的平台中，也可以与反恐科技公司合作，获得"定制的引入支持"。

Jigsaw 和 Tech Against Terrorism 表示，他们今后可能会在数据源中添加"专业数据库"，并计划将该工具扩展到英语以外的领域。