当前位置:主页 > 新闻资讯 > 正文

人工智能安全:未来战争的风险与挑战

时间:2020-05-19 10:00 来源:未知 编辑:admin

核心提示

随着人工智能技术的发展,人工智能已广泛应用到各行各业,推动人类社会发生广泛而深刻的变革。然而,人工智能技术是把“双刃剑”,人工智能也可能带来意想不到的安全问题。从...

随着人工智能技术的发展,人工智能已广泛应用到各行各业,推动人类社会发生广泛而深刻的变革。然而,人工智能技术是把“双刃剑”,人工智能也可能带来意想不到的安全问题。从无人驾驶汽车撞人到自主武器杀人,从脑机接口打造超级人类到人工智能自我复制,人工智能真的安全吗?特别是人工智能应用到军事领域,世界是否会陷入可怕的“人工智能军备竞赛”,而导致人工智能失控?

人工智能安全风险的根源

人工智能之所以给人类带来安全风险,一方面是人工智能技术不成熟造成的,包括算法不可解释性、数据强依赖性等技术局限性;另一方面是人工智能技术在应用和滥用过程中对不同领域造成的影响和冲击,包括对政治、经济、军事、社会伦理道德等的冲击和挑战。具体到军事领域,人工智能带来的风险和挑战,除了技术局限性和不成熟性带来的风险,还包括对现有战争机理的改变,对战略稳定性的冲击,对战争伦理道德的挑战等。本文仅选取智能情报系统的误判风险、辅助决策系统的安全风险、自主武器系统的安全风险三个方面进行分析。

智能情报系统的误判风险

基于人工智能技术的感知系统可广泛用于情报、监视和侦察任务,但是这种智能情报系统存在误判的风险。

首先,智能情报系统的视觉感知是基于已有的图象数据集进行训练,数据的数量和质量都会影响人工智能的情报判断的准确性。其次,人工智能的计算机视觉与人类的认知方法是不同的。人工智能系统在接受训练后能够对物体或人物图像进行识别和分类,但却并不能像人类一样理解对象的含义或概念。当面临新的图像数据集时就会做出错误的判断。再次,智能情报系统还可能被欺骗做出错误判断,即对抗样本攻击。例如,将一小块精心挑选的胶布粘贴到交通信号灯上能够使人工智能系统判断失误,把红灯判断为绿灯。2019年8月,来自莫斯科国立大学和华为莫斯科研究中心的两位研究人员公布了一项研究结果,只需要用普通打印机打印一张彩色贴纸贴到帽子上,就能使ArcFace等业内领先的人脸识别系统做出错误判断。在作战中,这种错误有可能导致对攻击目标的错误判断,误伤平民或者己方人员和设施。

思考:在战争中,如果采用对抗样本攻击故意使对方的人工智能系统无法分辨军人与平民,军事设施和民用设施,导致错误的攻击,谁承担责任?

辅助决策系统的安全风险

人工智能辅助决策系统在军事上的应用可加快数据处理速度,提高对象识别能力,提高人机交互水平。DARPA于2007年启动“深绿”(Deep Green)项目,将人工智能引入作战辅助决策,它通过对OODA环中的观察和判断环节进行多次计算机模拟,提前演示不同作战方案可能产生的各种结果,对敌方行动进行预判,协助指挥官做出正确决策。但是,辅助决策系统的安全风险也同样不可忽视。首先,战场环境的改变和战场的复杂性可能使人工智能系统做出错误判断,从而影响指挥官的决策。其次,如果战争双方均采用人工智能辅助决策系统,在战场上对抗双方部署的人工智能系统会使环境复杂化,超出一个或多个系统的解析力,进一步加剧了系统的脆弱性,并增加了事故和失误的可能性。第三,人工智能使决策流程和时间被大大缩短,国家之间因意外事件导致的冲突升级风险便大大提升。如果人工智能参与核打击的决策,后果将更加严重。美国国防部前副部长罗伯特·沃克曾以俄罗斯的“周长”核武控制系统为例说明人工智能不应参与管控核武器,因为它们会根据某些指标或数据做出错误判断,启动核武。在特殊情况下,人工智能可能会误判一些潜在威胁,从而更轻易地引发核战争。

  • 人工智能安全:未来战争的风险与挑战 人工智能安全:未来战争的风险与挑战

    随着人工智能技术的发展,人工智能已广泛应用到各行各业,推动人类社会发生广泛而深刻的变革。然而,人工智能技术是把“双刃剑”,人工智能也可能带来意想不到的安全问题。从...

  • 智能城市的连接选项:LPWAN和蜂窝网络 智能城市的连接选项:LPWAN和蜂窝网络

    网络连接可能会决定智能城市解决方案的成败。本文讨论了为智能城市解决方案选择正确的网络时的一些关键注意事项。智慧城市应该使用通过适合的无线网络连接的物联网解决方案来...

  • 2020年中国新基建5G产业链全景图深度分析 2020年中国新基建5G产业链全景图深度分析

    截至2019年底我国共建成5G基站超13万个,在5G商用初期,运营商开展5G网络大规模建设,预计2020年,电信运营商在5G网络设备上的投资超过2200亿元,各行业在5G设备各方面的支出超过540亿...

  • 实现高级自动驾驶,一定要用激光雷达吗 实现高级自动驾驶,一定要用激光雷达吗

    近日,以“汽车安全领域领导者”自居的沃尔沃宣布,直接越过 L3 级而跨入 L4 级自动驾驶的研发,并计划在 2 年内实现 L4 车型的量产,并强调 L4 车型一定要使用激光雷达。 用沃尔沃...

  • 新基建拉动相关领域发展,国内车联网市 新基建拉动相关领域发展,国内车联网市

    1/2G 时代通信满足紧急呼叫功能;3G 网络推出后,与 CAN 相连后基于网络能收集车辆运行参数,保证车辆召回等基本措施,开启真正的车联网时代;接着利用 3、4G 的网络提供新娱乐的服...

  • “不造车”的华为,为什么建了个“5G汽 “不造车”的华为,为什么建了个“5G汽

    如今,开放、合作已成为各行各业协同发展的共识。 前不久,外媒曝出美国将允许华为参与5G标准制定的同时,包括微软、谷歌等 31 家科技巨头宣布成立“Open RAN 政策联盟”,意在建立...

  • 人工智能、区块链与物联网,正在成为智 人工智能、区块链与物联网,正在成为智

    在上周的文章《广东 1800 亿打响新基建第一枪,河南、陕西工业互联网投资迎头赶上,500 个项目揭示最佳赛道 ...》中,我们重点追踪并分析了已公布具体信息的 466 个工业互联网新基建...

  • 疫情挡不住国产半导体崛起!一季度五大 疫情挡不住国产半导体崛起!一季度五大

    2020年第一季度,半导体板块受全球疫情扩散导致避险情绪上升板块回调,板块隐含波动率较高,但从产业趋势和前瞻判断出发,短期疫情扩散不改行业需求边界扩张。从中长期维度上,...

  • 5G时代与物联网安全——第四期《物联网 5G时代与物联网安全——第四期《物联网

    深圳市物联网产业协会于2019年末创办《物联网产业大讲堂》,旨在打造国内物联网圈的专家、学者展示最新学术成果的传播平台,以及物联网从业者交流、学习平台。大讲堂每月举办...