AI令深伪内容大行其道 新创公司视为商机

“深伪技术”（Depp fake）令假新闻大行其道，结果反而促成了商机。一家美国初创公司与美国政府签约，探测“深伪内容”，同时该公司也将目光投向亚洲政府客户。

《日经亚洲》报道，总部设于美国硅谷的新创公司Deepmedia，刚刚拿下美国政府为期3年，价值2500万美元的合约，以探测特别以“英语、俄语、乌克兰语和中文”制造的假新闻。

深伪技术指的是使用人工智能，制作的虚假视频或音频，但被当作真实的内容。

全球30%深伪内容来自亚洲

Deepmedia成立于2017年，最初专注于生成性人工智能算法的研究，该公司估计今年将有超过100万个深度伪造的视频或音频片段在网上发布，其中约三分之一针对亚洲。

该公司创始人兼首席执行官古普塔（Rijul Gupta）受访时表示，全球“深伪内容”的两个主要生产者是俄罗斯和中国。

“俄罗斯的深伪内容以西方世界为中心，中国则主要针对亚洲邻国。”

他直言，许多假媒体的目的，是使特定的选举候选人，以及可信的媒体失去信任度，大型社交媒体平台是散步“深伪内容”的主要平台，其中包括TikTok和Instagram。

称探测准确率达99%

古普塔说，该公司在检测20种语言的人工智能生成的媒体内容方面，拥有99%的成功率，其领先对手的其中一个原因，是拥有生成本身的深伪技术，并将之反其道而行。

“去年到今年，我们看到趋势有了很大的转变。随着人工智能变得更加先进，现在可以用有限的数据来生成假的视频或音频。”

深伪内容摧毁社会信任

古普塔强调，处理虚假媒体非常重要。如果社会不迅速采取行动，以确保检测深度假货的技术，人工智能将摧毁今天所知的人类社会。

“我们已经在信任的基础上建立了社会，当信任不再存在，所有的沟通和所有建立在这种沟通上的社会都会崩溃。”

古普塔披露，新加坡的一个实体与他的公司进行了接触，该实体担心深度造假对“政治进程的完整性”构成风险。他没有详细说明该实体的性质，因为会议内容需保密。

新加坡将在9月前举行总统选举。总统哈利玛最近宣布，将不参加连任。而日本预计于2025年10月前举行大选。