国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》

发布时间: 2023-07-19 15:29:06  点击量:

近日,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》(以下《办法》),自2023年8月15日起施行。a7W全国卫生产业企业管理协会转化医学产业分会

《办法》中所称生成式人工智能技术,是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术;生成式人工智能服务提供者,是指利用生成式人工智能技术提供生成式人工智能服务(包括通过提供可编程接口等方式提供生成式人工智能服务)的组织、个人。a7W全国卫生产业企业管理协会转化医学产业分会

近年来,生成式人工智能技术快速发展,为经济社会发展带来新机遇的同时,也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题,如何统筹生成式人工智能发展和安全引起各方关注。据国家网信办有关负责人介绍,出台《办法》,既是促进生成式人工智能健康发展的重要要求,也是防范生成式人工智能服务风险的现实需要。a7W全国卫生产业企业管理协会转化医学产业分会

《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管。a7W全国卫生产业企业管理协会转化医学产业分会

在促进发展具体措施上,《办法》明确鼓励生成式人工智能技术在各行业、各领域的创新应用,生成积极健康、向上向善的优质内容,探索优化应用场景,构建应用生态体系;鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新,参与生成式人工智能相关国际规则制定;提出推动生成式人工智能基础设施和公共训练数据资源平台建设,鼓励采用安全可信的芯片、软件、工具、算力和数据资源。a7W全国卫生产业企业管理协会转化医学产业分会

《办法》明确生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动,使用具有合法来源的数据和基础模型;涉及知识产权的,不得侵害他人依法享有的知识产权;涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形;采取有效措施提高训练数据质量,增强训练数据的真实性、准确性、客观性、多样性。此外,明确了数据标注的相关要求。a7W全国卫生产业企业管理协会转化医学产业分会

《办法》要求生成式人工智能服务提供者采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务,按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识,发现违法内容应当及时采取处置措施等。此外,还规定了安全评估、算法备案、投诉举报等制度,明确了法律责任。同时,在生成式人工智能技术研发过程中进行数据标注的,提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则;开展数据标注质量评估,抽样核验标注内容的准确性;对标注人员进行必要培训,尊法守法意识,监督指导标注人员规范开展标注工作。a7W全国卫生产业企业管理协会转化医学产业分会

国家网信办有关负责人指出,生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与,共同促进生成式人工智能健康发展,让生成式人工智能技术更好地造福人民。a7W全国卫生产业企业管理协会转化医学产业分会

 a7W全国卫生产业企业管理协会转化医学产业分会

 a7W全国卫生产业企业管理协会转化医学产业分会

 来源: 科技日报 作者: 崔爽a7W全国卫生产业企业管理协会转化医学产业分会

上一篇 下一篇
相关链接