中国拟给生成式AI立规

就在中国高科技公司争相推出自己的生成式人工智能（AI）产品之际，中国官方也开始加强对这一领域的监管。

中国国家网信办规定利用生成式人工智能生成的内容，应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度、煽动分裂国家、破坏国家统一等内容。

中国国家互联网信息办公室周二（4月11日）在官网发布关于《生成式人工智能服务管理办法》的征求意见稿，向社会公开征求意见，意见反馈截止到今年5月10日。

为了促进生成式AI技术健康发展

网信办解释，此举是为了促进生成式人工智能技术健康发展和规范应用。

根据征求意见稿，利用生成式人工智能产品向公众提供服务前，应当向国家网信部门申报安全评估，并履行算法备案和变更、注销备案手续。

征求意见稿规定，利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一的内容。

这些内容也不得含有宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

防止生成虚假信息

征求意见稿要求在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视；而利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

这项规定要求利用生成式人工智能产品，提供聊天和文本、图像、声音生成等服务的组织和个人（即提供者），应当采取适当措施，防范用户过分依赖或沉迷生成内容，也不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。

违反者依法追究刑事责任

针对违反规定的提供者，法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正。

拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处1万人民币（约6410令吉）以上、10万人民币（约64120令吉）以下罚款，构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

生成式AI是借由大量学习与充实资料数据，进而不断修正并生成全新的内容，例如聊天机器人ChatGPT、图像生成工具Midjourney，百度自行研发的文心一言、阿里巴巴开发的通义千问等类ChatGPT模型，也都是生成式AI。

目前在中国企业迫切赶上浪潮，抢攻生成式AI蓝海，让中国官方不得不出手监管。