考量社会人类潜在风险 专家吁暂停训练GPT-4
立即订阅亚视新闻 YouTube,即时掌握时事发展。
小
中
大
美国富豪马斯克以及一群人工智慧(AI)专家、业界高管在一封公开信中表示,考量对社会及人类的潜在风险,呼吁未来6个月先暂停对优于语言模型GPT-4的人工智慧系统进行训练。
GPT-4是由新创公司OpenAI推出的新一代语言模型,比先前的版本更强大。
路透社报导,这封信函由非营利组织“生命未来研究所”(Future of Life Institute)发布,并有超过1000人签署,共同呼吁暂停高阶人工智慧开发,直到独立专家订定、实施并审核此类设计的共享安全协议。
众富豪及科技专家签署
信函签署人包括美国富豪马斯克、苹果共同创办人沃兹尼亚克(Steve Wozniak)以及Stability AI执行长莫斯塔克(Emad Mostaque)等人。
信中表示,唯有当确信人工智能将带来正向影响,以及风险可控时,才应该开发强大的人工智慧系统。
信中也详细说明了人工智慧系统具有与人类竞争的能力,可能以经济和政治混乱的方式,对社会和文明带来潜在风险,呼吁开发人员和治理政策制定者与监管当局展开合作。
这封信函发出之际,欧洲刑警组织(Europol)也对ChatGPT等先进人工智慧提出道德及法律疑虑,警告人工智慧系统恐被滥用于网路钓鱼、虚假讯息以及网路犯罪。
相关新闻:
- OpenAI发表新型GPT-4引擎 微软Bing AI早已采用
- 人工智慧复制心血 艺术家杠上AI
- 李彦宏:文心一言与ChatGPT差距不大
- ChatGPT用户敏感数据泄漏 OpenAI:已修复
- 马斯克示警AI比核武危险 ChatGPT之父也担忧