Sora 爆火后如何识别 AI 造假，这家融资 1 亿元的以色列公司或成新独角兽

深度造假可以迷惑肉眼，但逃不过 Clarity 的「法眼」。

撰文：元宇宙之心

人工智能（AI）的发展速度实在是太惊人了！

就在春节期间，Sora 模型横空出世，可以生成 60 秒的高清视频，逼真效果甚至超越了之前的 Runway 和 Pika 等视频生成工具。而就在昨晚，谷歌开源了 Gemma 大模型，能够在笔记本电脑上轻松运行，这意味着普通人现在也可以轻松接触到 AI 技术。

然而，技术的迅猛更迭也带来了更多人对于「深度伪造」的恐慌。由 AI 生成的图片和视频足以迷惑肉眼，让人真假难辨。

早在 1 月底，美国流行歌手「霉霉」就因为 AI「不雅照」事件引发了轩然大波，甚至引起了白宫的关注。更有甚者，香港一家跨国公司被 AI 诈骗团伙伪造其高管参会，损失惨重达 1.8 亿人民币。

为了缓解个人和企业对 AI 安全性的担忧，Clarity 这家 AI 网络安全初创公司应运而生。凭借独特的专利算法和前沿技术，Clarity 能够精准识别并打击深度造假行为，确保网络信息的真实性和可信度。

Clarity 不仅旨在帮助更多人避免成为 AI 技术滥用的「牺牲品」，更希望为整个行业的健康发展注入新的活力。

01.1 分钟项目速览

1.项目名称：Clarity

2.成立时间：2022 年

3.产品简介：

Clarity 是一个打击深度造假的 AI 检测平台。利用专利算法，Clarity 能精确检测视频、图像和音频中的篡改，并通过加密水印确保内容真实。各大组织通过集成 Clarity 的解决方案，能够加强其对数字欺骗的防御能力，从而全面保障内容与资产的安全。

4.创始人团队：

Michael Matias

曾在斯坦福大学学习 AI，曾担任以色列「8200 情报部队」官员，同时也是 70 多家深度技术初创企业的天使投资人。

Natalie Fridman

计算机科学博士，巴伊兰大学计算机科学讲师。

Gil Avriel

毕业于哈佛大学肯尼迪学院和乔治敦法学院（第一名），曾在以色列总理办公室国家安全委员会担任高级主管（14 年）。

5.融资情况：

2024 年 2 月，Clarity 获得了由 Walden Catalyst Ventures 和 Bessemer Venture Partners 领投的 1600 万美元种子投资。

02.群英荟萃，对深度伪造「重锤出击」

随着 AI 技术的发展，深度伪造（Deepfakes）也随之而来。

Pew Research 最近的一项调查发现，66% 的美国人表示，他们「至少有时」会遇到被篡改或者完全虚构的内容；63% 的人表示，捏造或更改的图像或视频会导致人们对于时事的「认知混乱」。

美联社和芝加哥大学的另一项民意调查则发现，58% 的成年人认为 AI 工具将导致选举错误信息。据估计，到 2026 年，90% 的在线内容将由 AI 生成。

由于创建深度伪造所需的工具越来越容易获得、价格越来越便宜，虚假照片、视频现已如洪水般泛滥。在 AI 生成内容的时代，新闻的真实性和可信度受到了极大的挑战。

快速识别和消灭「病毒」

网络安全初创公司 Clarity 最近筹集了 1600 万美元（折合成人民币约为 1.15 亿元）的风险投资资金来对深度伪造进行反击。这家公司使用 AI 来识别深度伪造创建中常见的模式，使企业能够快速识别和防范虚假内容。

尽管 Clarity 的核心利用了 AI 技术，但它在本质上仍是一家网络安全公司。

与其他网络安全供应商一样，Clarity 通过应用程序及其接口来提供扫描工具，该工具利用经过训练的多个 AI 模型来识别视频、图像和音频深层创建技术中的模式。此外，Clarity 还提供了一种水印形式，客户可以用它来表明自己的内容是合法的。

谈到和其竞争对手的区别时，Clarity 首席执行官 Michael Matias 表示，差异化因素并不在于表面，而隐藏于产品内核之中，即 Clarity 对新型深度伪造的快速反应。

Clarity 将深度伪造视为能够迅速分叉和复制的「病毒」，因此，它的解决方案也是为了分叉和复制而构建的，以保持适应性和弹性。公司团队还专门建立了相应的基础设施和 AI 模型，以完美达到这一要求。

众多大佬云集

尽管 Clarity 目前仅有 13 名员工，但该公司的创始人团队资历非常雄厚。

• 首席执行官：Michael Matias

Matias 曾在以色列「8200 情报部队」担任一级干事，并创建了两个获得国防奖的 AI 团队。随后，Matias 在斯坦福大学学习 AI，并在 Hippo Insurance 领导 AI 团队。他是 70 多家深度技术初创企业的天使投资人，也曾是多家风险投资公司的投资团队成员。

• 首席技术官：Natalie Fridman

Fridman 在 AI 和研究领域拥有 10 多年的管理经验，擅长集体智能、深度学习和自主代理建模。Fridman 曾任 ImageSat International 研发高级副总裁（从成立到上市），拥有 AI 和集体智能博士学位。她发表过超过 25 篇论文，曾是巴伊兰大学计算机科学的主要讲师，拥有多项 AI 算法专利。

• 首席战略官兼首席运营官：Gil Avriel

Avriel 毕业于哈佛大学肯尼迪学院和乔治敦法学院（第一名），曾在以色列总理办公室国家安全委员会担任高级主管（14 年）。在担任国家安全委员会法律顾问期间，曾就国家安全战略问题为 8 位国家安全顾问和 4 位总理提供咨询。

除了卓越的创始人团队，Clarity 的顾问委员会成员也都是来自各个行业的顶尖专家，包括斯坦福大学教授 Larry Diamond、加拿大前国防部长 Irwin Cotler 以及前谷歌研究副总裁 Alfred Spector 等。

03.各行业联手清除造假「迷雾」

AI 模型迭代更新，深度伪造技术也在做进一步的提升，这类技术的复杂性已经让人们很难区分真实与捏造的内容。

「我们的数字生活正遭受着猛烈攻击，人们说了他们从未说过的话，做了他们从未做过的事情。」Clarity 的联合创始人兼首席执行官 Michael Matias 在一份声明中表示。

一年前，大多数关于「AI 欺诈」的新闻还几乎来自大学研究实验室；一年后，有关 AI 造假的问题已经充斥在我们的生活中。

短短一年时间里，涌现出了一大波文生图像、视频以及语音克隆模型，例如本月 ElevenLabs 宣布为 Sora 推出音效模型，可以自动为视频配音。

这些 AI 应用在不知不觉中「帮助」恶意行为者利用广泛且免费的工具快速生成深度伪造内容。

「随着语音克隆和其他 AI 骗局的增加，保护美国人免受冒充者欺诈比以往任何时候都更加重要，」美国联邦贸易委员会 (FTC) 主席 Lina M. Khan 在一份声明中提到。

为了弥补这一行业漏洞，检测深度伪造的初创公司正在涌现并不断壮大，并吸引了大量风险投资。

众多深度伪造检测公司，目前正在竞相开发深度伪造检测工具。除了 Clarity 外，还包括 AI 浏览器工具 Reality Defender 以及专注于深度伪造图像和视频的 Sentinel 公司。

Reality Defender 主要提供了一个帮助检测文本、视频和图像深度伪造的平台，可以验证社媒内容是否由 AI 生成或者以某种方式修改。另外，该公司在去年 10 月获得由 DCVC 领投的 1500 万美元 A 轮融资，将用于扩大团队并改进其 AI 内容检测模型。

站在解决 AI 深度伪造问题的风口上，不少投资人对 Clarity 持有相当乐观的态度。美国有线电视新闻网（CNN）前战略主管 Chris Marlin，作为一名天使投资人的他表示，「生成式 AI 制作的内容和深度伪造的激增有可能造成更大的选民不信任。」

在 1 月末，美国总统大选就出现了 AI 造假问题，有人用 AI 冒充拜登给选民打电话并且影响了大选的讨论。此外，美国其他州的选举也受到 AI 伪造的干扰。

Clarity 将致力于解决这些问题，正如 Chris Marlin 强调，「Clarity 的技术将清除不确定性的迷雾，为选民和政治领导人提供更好的清晰度。」

斯坦福大学社会学和政治学教授，Larry Diamond 也曾表示，「我们很高兴能与 Clarity 合作，并提供一个可扩展且值得信赖的平台，任何组织都可以用它来验证敏感新闻、防止欺诈并建立一个安全的 AI 环境。」

04.Clarity 身兼长期发展使命

在被 AI 裹挟的大环境下，如果呼吁监管和立法无法在短期内实现，快速识别和解决深度伪造不失为当前的一个良方。

正如 Clarity 首席执行官 Matias 所说，「这是一场快节奏的军备竞赛，任何想要解决深度伪造问题的公司都需要像那些创建和传播深度伪造的公司一样快速行动。」

目前，Clarity 正在与以色列政府以及一些大型新闻机构合作，而最新的这笔融资将推动 Clarity 的扩张计划，使该公司能够加大招聘力度，进一步开发其技术，并在美国市场建立更强大的影响力。

参考链接：

1.https://www.getclarity.ai/

2.https://techcrunch.com/2024/02/15/clarity-raises-16m-to-fight-deepfakes-through-detection/