为何强调人工智能“正当使用”

        无人超市、自动驾驶、机器“诗人”……近年来，人工智能在全球多个领域掀起了“智慧革命”。5月29日，第三届海外华文新媒体高峰论坛举行，在当天下午的“互联网+”分论坛圆桌讨论环节，众多科技专家和媒体人齐聚一堂，畅谈人工智能时代带来的变化。与会嘉宾们普遍认为，人工智能是一把“双刃剑”，如何正当使用它是我们必须要仔细考虑的问题。
        为何要如此强调人工智能“正当使用”？因为，人工智能的突破犹如“双刃剑”，“正当使用”可以为社会发展提供新动能、造福人类，而滥用则可能带来无穷隐患。
　　今年4月，联合国《特定常规武器公约》政府专家小组在瑞士日内瓦召开会议，讨论致命自主武器系统研发，即“杀手机器人”可能带来的影响。人工智能界的专家学者及防务分析人士一致认为，军事机器人革命带来的伦理、法律及政策等问题，尤其是自主武器能否自行判断杀敌，是令人担忧和亟需讨论的现实问题。
　　实际上，警惕“杀手机器人”的呼声早已形成。在2017年人工智能国际会议上，有硅谷“钢铁侠”之称的马斯克、苹果联合创始人沃兹尼亚克、研发“阿尔法围棋”的深度思维公司创始人哈萨比斯等科技界名人曾签署公开信，呼吁联合国应像禁止生化武器一样，禁止在战争中使用致命的自主武器和“杀手机器人”。
　　大多数专家学者认为，人工智能迅速发展给社会各领域带来深远影响，对军事作战系统研发也带来全新理念，但就使用致命武器而言，人应当是负责启动的关键要素。什么样的人工控制才是最适宜的，相关讨论仍在持续进行。
　　通常一种新技术的适用范围越广，被滥用的风险越高。人工智能在一个个领域“攻城略地”，推动产业变革，但也令人对其高速发展所带来的未知性心存忧虑。
　　被美国《麻省理工学院技术评论》评为“全球十大突破性技术”之一的“对抗性神经网络”，旨在突破人工智能想象力、创造力的瓶颈。但在展现巨大潜力的同时，这项技术发展的负面影响也不容忽视。
　　在相关试验中，美国芯片企业英伟达的研究人员用明星照片训练出一套系统，进而生成了数百张根本不存在、但看起来很真实的人脸照片。还有研究团队让系统生成了看起来十分逼真的梵高油画。
　　专家还提醒到，不法分子可能利用此类系统制造出图片甚至视频来混淆视听，给监管、安全带来新挑战。这一领域的技术先驱、美国科学家伊恩·古德费洛就表示，他当前的研究重心已经转向如何避免这类技术的滥用问题，希望它“不至误入歧途”。
　　任何一种新技术的出现，人们在充分享受其带来的福祉的同时，也必须及时地防范相关的风险。如何进行适当的引导和管理，同样考验人类智慧。
　　科学家一直希望以最简单的办法，保证以机器人为代表的人工智能不给人类带来任何威胁。人们最熟悉的莫过于科幻作家阿西莫夫设计的“机器人三定律”。美国机器智能研究院奠基人尤德科夫斯基也提出了“友好人工智能”的概念，认为“友善”从设计伊始就应当被注入机器的智能系统中。
　　不少专家建议，除了设计和建造要遵循技术规范，还可由政府有关部门牵头，成立由技术专家、社会科学研究人员、政府管理人员为核心的人工智能管理委员会，对涉及人工智能的研究和开发项目进行审核评估。
　　与生物技术、核技术相比，目前对人工智能领域的监管依然薄弱。如何对可能形成的负面影响未雨绸缪、为技术发展划出法律和伦理道德的边界，已经迫在眉睫。如何让人工智能更好地服务人类社会，也是世界范围内的一项共识。
　　（新华社 刘石磊）