AI“换装”损害军警形象，平台该出手

◎ 余明辉

    “这辈子没机会真入伍，先整个‘电子军装’过把瘾”“体验一下穿上警服抓人的样子，帅气吗”……据媒体报道，近期，AI生成的“军装照”“警察抓人照”在短视频平台爆火，不少网友借此满足精神需求，本无可厚非。然而，部分网友却剑走偏锋，用不良姿态、配烟酒，混淆军种、编造虚假案情等不当操作，让AI“换装”变了味，严重损害了军警形象。

    AI“换装”损害军警形象，原因是多方面的。从用户层面看，部分人法律意识淡薄，对军警职业缺乏应有的敬畏之心，只图一时娱乐，不顾后果地肆意消费和亵渎军警形象。从技术层面讲，AI技术门槛降低，使得生成虚假、不当内容的成本极低，一些别有用心之人轻易就能利用技术达到不良目的。但追根溯源，根本问题还是平台没有把好第一责任人的责任关。

    平台作为信息传播的枢纽和内容审核的关键环节，本应是维护网络秩序、保障信息合法合规的“守门人”。然而，在AI“换装”损害军警形象这一现象中，平台却失职了。依据《生成式人工智能服务管理暂行办法》，平台作为生成式人工智能服务提供者，若未对违法内容采取停止生成、停止传输、消除等处置措施，也未向有关主管部门报告，就需承担法律责任。可现实中，部分平台对用户上传的AI“换装”内容审核宽松，一些明显不当、违法的内容堂而皇之地出现在平台上，肆意传播，严重影响了网络空间的清朗。

    同时，按照规定，平台还需对生成内容进行标识，若未标识导致公众混淆或误解，就违反了《互联网信息服务深度合成管理规定》，使得普通用户难以分辨真假，容易被虚假内容误导，进而对军警形象产生错误认知。

    此外，若平台明知用户利用其服务实施违法违规行为，却未依法依约采取警示、限制功能等处置措施，还需承担相应连带责任。可现实中，部分平台为追求流量和利益，对用户的违法违规行为睁一只眼、闭一只眼，在一定程度上纵容了不良行为的发生和蔓延。

    “千里之堤，毁于蚁穴。”平台若不切实履行第一责任人的责任，任由AI“换装”损害军警形象的乱象发展下去，不仅会损害军警在人民群众心中的崇高形象，削弱军警的权威性和公信力，还会引发不良示范效应，让更多人效仿这种不当行为。

    那么，平台该如何把好责任关呢？一方面，要加大内容审核力度，建立更加严格、细致的审核机制，利用技术手段和人工审核相结合的方式，对用户上传的AI“换装”内容严格把关，一旦发现不当或违法内容，立即采取停止生成、停止传输、消除等处置措施，并及时向有关主管部门报告。另一方面，要按照规定对生成内容进行清晰标识，让用户能够轻松辨别内容的真实性和来源，避免混淆和误解。此外，平台还应加强对用户的宣传教育和引导，提高用户的法律意识和道德素养。