人工智能技术是一把双刃剑,在为我们提供便利的同时,也带来了诸多问题。比如，前段时间被热议的AI换脸术便引发了诸如泄露用户个人隐私、侵权、扩散虚假谣言等风险。如今，官方正式出手——国家互联网信息办公室、文化和旅游部、国家广播电视总局日前联合印发《网络音视频信息服务管理规定》(以下简称《规定》)，促进网络音视频信息服务健康有序发展。规定自2020年1月1日起施行。

    “新兴技术一旦在网络上被违法运用，极有可能造成社会秩序紊乱，甚至危害国家安全，这就要求对网络音视频行业加强监管。”北京师范大学互联网发展研究院院长助理、中国互联网协会研究中心秘书长吴沈括教授介绍，《规定》不仅加大了对违法行为的打击力度，而且有利于进一步保护公民、法人以及其他组织的合法权益，维护社会秩序和公共利益。《规定》的出台，意味着AI深度换脸术等新技术新运用将迎来强监管。

    风险不断叠加亟需规范

    当前，网络音视频信息行业发展迅速，用户规模不断壮大，相关风险也在不断叠加。

    今年年初,一个“朱茵变杨幂”的视频在某网站上火了，视频里，电视剧《射雕英雄传》中“黄蓉”的扮演者被替换为杨幂。视频传至微博后引起了轩然大波，侵权、安全等争议声接踵而至。

    “随着‘深度伪造’等新技术新应用在网络音视频领域的运用，传播违法和不良信息、侵犯人民群众合法权益等风险隐患在不断增大。”国家互联网信息办公室有关负责人坦言，这些风险如果进一步集聚、放大，很可能被利用从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动。

    “亟需出台有针对性的管理规定。”国家互联网信息办公室有关负责人说，目前亟需明确网络音视频信息服务提供者及其技术支持的主体的信息内容安全管理责任，规范网络音视频信息服务提供者关于利用深度学习、虚拟现实等新技术新应用的管理要求，为网络音视频信息服务及其相关技术的提供、使用、管理等提供有效的依据。

    在吴沈括看来，尽管监管部门近几年已出台了相关文件，但由于网络音视频行业内容、用户等数量庞大，违法现象仍然层出不穷。此次《规定》的出台，明确了管理机制，规范了新技术的使用，对将有关技术用于违法用途的行为起到了一定的制约作用，有利于维护网络音视频行业的健康秩序。

    辟谣机制阻断谣言传播

    吴沈括注意到,《规定》对新技术新应用的安全问题给予了高度关注，他分析指出，这是由于此前缺乏相关规范机制，虚假、违法信息在网络平台上传播难以得到有效的遏制，谣言的传播速度快以及影响范围广等特点对公民和社会秩序都造成了严重的危害。

    对此，《规定》明确了安全评估要求，网络音视频信息服务提供者基于新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务，或者调整增设相关功能的，应当按照国家有关规定开展安全评估。此外还明确了对标识和新闻信息管理的要求，网络音视频信息服务提供者和网络音视频信息服务使用者利用新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识，不得利用新技术新应用制作、发布、传播虚假新闻信息。

    国家互联网信息办公室有关负责人介绍说，《规定》还明确对违法违规信息的管理要求,网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术。

    此外，《规定》还强调，网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术，发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的，应当依法依约停止传输该信息，采取消除等处置措施；网络音视频信息服务提供者应当建立健全辟谣机制，发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息报网信、文化和旅游、广播电视等部门备案。

    吴沈括告诉笔者,《规定》对非真实音视频信息的标识义务以及辟谣机制的安排,有利于识别各式各样的虚假信息,阻止虚假信息的传播,保护公民个人的权益,使新技术能够得到合法运用,与网络音视频行业共同健康发展。

    设置便捷投诉举报入口

    值得注意的是，《规定》要求网络音视频信息服务提供者落实信息内容安全管理主体责任，应当依法取得法律、行政法规规定的相关资质；建立健全用户注册、信息发布审核、信息安全管理等制度。

    “这些规定要求网络音视频信息服务提供者自觉主动履行平台监管的义务，加大对不良信息的识别和审核力度,承担平台所应有的社会责任。”吴沈括解释说，平台方在追求经济利益的同时，应实现与社会效益相统一。网络音视频信息服务提供者应加大对公民、社会和国家利益的保护力度,承担更多的主体责任。

    同时,《规定》还要求网络音视频信息服务提供者应当依照《中华人民共和国网络安全法》的规定对用户进行真实身份信息认证等。对此,吴沈括解释说,这一条可以看做是网络应用实名制条款,明确了公民个人的责任。

    此外,《规定》要求,网络音视频信息服务提供者应当设置便捷的投诉举报入口,及时受理并处理公众投诉举报。此外,网络音视频信息服务提供技术支持的主体应当遵守相关法律法规规定和国家标准规范。

    据国家互联网信息办公室有关负责人介绍,《规定》还明确了监督检查要求和执法协助要求，各级网信、文化和旅游、广播电视等部门应当建立日常监督检查和定期检查相结合的监督管理制度，网络音视频信息服务提供者应当配合监管部门开展执法工作。 （据《法制日报》）