OpenAI推出语音复制新工具 为防滥用将严管

美国人工智能（AI）开发公司OpenAI当地时间星期五（3月29日）推出一款语音复制工具，打算在落实保护措施防范语音造假诈骗之前也实施严格管制。

15秒样本足以复制一个人声音

法新社报导，OpenAI一篇分享小规模测试成果的部落格文章指出，这款名为Voice Engine的工具可根据15秒的声音样本复制一个人的声音。

总部位于旧金山的OpenAI表示：“我们承认生成类似某人声音的言论具有重大风险，尤其考量到今年是选举年……我们与政府、媒体、娱乐、教育、公民社会等领域合作，确保我们在打造过程中纳入他们的意见。 ”

造假资讯研究员担心AI驱动的应用程式在关键选举年遭大量滥用，因为语音复制工具愈来愈多，且费用低廉、使用简单又很难追踪。

担心深伪技术扰乱美总统大选

意识到问题的OpenAI表示，由于合成语音功能可能遭到滥用，OpenAI将采取谨慎态度，随时掌握最新状况。

数月前，美国一名民主党总统初选候选人的政治顾问承认假冒总统拜登的声音，拨打AI生成的自动语音电话，内容听起来像是拜登呼吁选民不要在今年1月的新罕布什尔州初选投票。

这起事件令专家警觉，他们担心在今年11月美国总统大选和全球其他重要选举之前出现大量AI生成的深伪（Deepfake）假资讯。

设定规范管制 防止滥用

OpenAI表示，测试Voice Engine的伙伴已同意一些规范，所有复制声音的人都必须接受有关规范。

OpenAI还说，发布AI生成的声音时必须明确告知受众。

OpenAI表示：“我们已实施一系列安全措施，包括打上数码浮水印来追踪所有Voice Engine生成音讯的源头，并主动监控此工具的使用方式。 ”