确保安全和可控性 杨立昆促开源人工智能
在上海举行的2023世界人工智能大会上，法国著名人工智能科学家杨立昆（Yann Le Cu）发表了重要演讲，强调了人工智能（AI）的可控性和安全性，并呼吁开源人工智能平台。
作为2018年图灵奖得主和Meta AI基础人工智能研究院团队首席科学家，杨立昆认为人类不应过于担心人工智能的发展，而是应该通过开源的方式来确保其安全、良善和实用。
他反驳了一些人对人工智能严格监管的观点，并指出，将人工智能系统设计为目标驱动的方式是保证其可控性的关键。
逐步测试 确保安全
杨立昆表示，人工智能系统的目标可以由人类设定，其中一些目标来自于具体任务的定义，例如回答问题、驾驶汽车或清理餐桌。另外一些目标则是作为安全护栏的存在，以确保不会伤害任何人。
他强调了确保人工智能系统诚实的重要性，并提醒人们要小心那些可能引起好奇心的目标，以及限制它们接触不应该拥有的资源。
为了确保人工智能系统的安全性，杨立昆建议将其置于沙盒或仿真环境中进行测试。他认为，最初可以从构建类似老鼠智能的系统开始，并逐步提高其智能水平。他强调了设计安全目标的挑战，并表示这将是一个艰巨的工程任务。
AI未来成每人数字世界助手
杨立昆对人工智能的开源表示支持，他认为长期来看，只有通过开源的方式，人工智能平台才能成为安全、良善和实用的工具。
他指出，未来每个人都将通过人工智能助手与数字世界进行互动，因此人类所有的信息都需要通过这个人工智能助手来传递。
技术不应被少数公司掌握
如果技术被少数公司控制，将对社会产生负面影响。他强调未来人工智能系统将成为人类知识的宝库，并呼吁更多的开源大型语言模型和开源人工智能系统的发展。
杨立昆的演讲引起了与会者的广泛关注，并促使人们重新思考人工智能的伦理和治理要求。他的观点提醒人们，通过设定明确的目标并进行开源的方式，人工智能可以成为可控、可操纵的工具，从而满足人类的需求和期望。
安全性挑战仍然严峻
然而，尽管杨立昆强调了开源的重要性，但同时他也意识到设计安全目标的挑战。这需要持续的工程努力和技术创新，以确保人工智能系统在实践中能够安全可靠地运行。
此外，他还强调了将人工智能系统放入受控环境进行测试和评估的重要性，以确保其安全性。
整体而言，杨立昆的演讲呼吁人们对人工智能的发展保持开放和乐观的态度，并强调了通过目标驱动设计和开源的方式来满足伦理和治理的要求。
随着人工智能的不断发展，这些观点将为人们在人工智能领域的探索和发展提供有益的指导。
您必须登录才能发表评论。