15秒复制人声太危险 OpenAI新工具暂不开放

2024年4月1日 12:30

立即订阅亚视新闻 YouTube，即时掌握时事发展。

小中大

美国人工智能开发公司OpenAI于上星期五（3月29日）公布语音AI工具“Voice Engine”，只需要短短15秒的说话声音样本，就能复制出此人声音。不过，该公司也承认这项语音复制工具风险太大，不适合全面发布。

ETtoday新闻云报导，“Voice Engine”于2022年首次研发，初始版本被使用在ChatGPT内建文字转语音功能。其生成结果不受声音样本语种限制，若说的是英文，这项技术可使用你的声音，生成西班牙语、法语等其他语言结果。不过，考量到存在滥用风险，现阶段仅提供合作伙伴使用，尚未对外开放。

根据《卫报》报导，OpenAI延迟推出“Voice Engine”，是为了在至关重要的全球大选年，最大限度地减少假消息出现的可能性。

OpenAI在一篇贴文中表示，目前“Voice Engine”的生成结果都有浮水印，以利追踪生成式音档的来源。

与合作伙伴的使用条款也规定，必须取得原始说话者的明确知情同意，更不允许开发人员让个人用户自行创造声音档案。

OpenAI表示，“目前选择预览而非广泛发布这项技术”，是为了强化社会面对“更具说服力的生成式模型”的能力，呼吁逐步淘汰语音认证，作为登入银行帐户或其他敏感资讯的安全措施，制定在AI领域使用个人声音的保护政策，以及推广理解AI能力与限制、包括欺骗性内容的公众教育。

OpenAI写道，“我们希望针对负责任地使用合成声音，以及社会如何适应这些新功能，展开一场对话”，并且根据对话结果及小规模测试，对于是否、如何大规模使用这项技术，做出更明智的决定。