当前位置:主页 > 新闻资讯 > 正文

人脸识别不断“闯祸”,科技公司是时候成立AI伦理委员会了

时间:2019-09-09 10:05 来源:未知 编辑:admin

核心提示

图片来自“123RF” 科技公司或许很快会配备两个CEO:一个是Chief Executive Officer即首席执行官,另一个是Chief Ethical Officer即首席伦理官。 这几天,AI人脸识别技术在不断“闯祸”。 视频换...

人工智能,人脸识别,人工智能,伦理,科技向善

图片来自“123RF”

科技公司或许很快会配备两个CEO:一个是Chief Executive Officer即首席执行官,另一个是Chief Ethical Officer即首席伦理官。

这几天,AI人脸识别技术在不断“闯祸”。

视频换脸App ZAO在朋友圈刷屏,很快就因为用户协议存在霸王条款、涉嫌侵犯肖像权引发用户恐慌等问题,引发巨大争议,先是被微信封杀,接着工信部就ZAO App网络数据安全问题开展问询约谈,要求其严格按照国家法律法规以及相关主管部门要求,进行整改,依法收集用户信息并使用,规范协议条款,强化网络数据和用户个人信息安全保护。ZAO随后修改用户协议并公开道歉。

人脸.jpg

另一家AI独角兽则因在校园试点“基于人脸识别的教室监控”而引发舆论大哗,相关图片显示,对应系统可以监控学生在课堂的一举一动,举手次数、打瞌睡、开小差甚至注意力是否集中,都可以被机器识别得一清二楚,并进行可视化呈现。尽管对应的技术在智能教育上呈现出广阔的应用前景,但人们却并不买账,而是担心“监控”下学习的精神压力和隐私风险。随后,这家AI独角兽回应称,网络上出现的一幅课堂行为分析图片,为技术场景化概念演示,意思是,尚未应用。

人脸识别.jpg

不论是ZAO的视频换脸技术,还是教室监控技术,本身都不新鲜。ZAO用的是开源技术,“教室监控技术”一直都是AI教育明星公司们主打的一项技术。一夜之间备受关注,原因在于,AI技术发展太快,应用门槛变低,开始来到了我们身边。

AI技术的副作用正在出现

算法、算力和数据经历几年积累后,AI威力已大不相同。百度在前不久的云智峰会上提出,AI工业化时代来了。马化腾在世界人工智能大会上表示:人工智能在未来十年会迎来高速发展。AI技术到了大规模落地到各行各业的关键时刻,是真的已经爆发了。

AI技术爆发带来的问题,是人们始料未及的,人类没有做好准备。

单单是一个人脸识别,就有大量的值得人们焦虑甚至恐惧的问题:如果换脸技术被用于恶意合成色情或暴力视频,可能会给当事人带来类似于网络暴力这样的灭顶之灾;如果人脸识别技术被任何人轻松掌握,隐私对每个人来说将会成为奢侈品;如果人脸识别技术被犯罪分子破解,人们的隐私、财产甚至人身安全都会面临巨大的威胁。

  • “智慧交通” 大数据分析系统让贵阳更畅 “智慧交通” 大数据分析系统让贵阳更畅

    早上10点,在观山湖区贵阳科恩大数据先进技术研究院(以下简称科恩研究院)的办公室内,智能交通研究中心的工作人员们正面对电脑,通过对各项交通数据的计算、筛选、对比等操作,...

  • 厦门:“智慧眼”助力高效执法,查处“ 厦门:“智慧眼”助力高效执法,查处“

    只要非法营运被处罚,车辆就会被系统录入到“黑名单”中,若再次违法,被查获的概率将大大提升。 近日,在厦门北站,交通执法人员依靠高科技设备“智慧眼”,又查获一辆“二进...

  • 上海公交试行“车厢舒适度智能预报系统 上海公交试行“车厢舒适度智能预报系统

    近日,上海公交99路开始试点一种车厢“黑科技”——基于图像捕捉技术对乘客密度进行分析的“车厢舒适度智能预报系统”。在99路多个中途站的预报屏上,出现了几个卡通小人的图标...

  • 星环科技亮相2019全球智慧城市大会 星环科技亮相2019全球智慧城市大会

    2019年11月19至21日,在西班牙巴塞罗那隆重举行了第九届SCEWC全球智慧城市大会。本次大会是一个国际领先展示智能城市解决方案的盛会。本次大会吸引力全球众多科技企业参展。 星环科...

  • 贺州市智慧交通系统建设(一期)项目完 贺州市智慧交通系统建设(一期)项目完

    11月22日,贺州市智慧交通系统建设(一期)项目完成竣工验收工作。 贺州市智慧交通系统建设(一期)项目建设以贺州市级平台为主,包括市交通局、市运管处、市公路处、市港航处...

  • WRC-19大会达成智能交通全球频率统一( WRC-19大会达成智能交通全球频率统一(

    2019年10月28日至11月22日,作为联合国框架内、由世界主权国家参与、确定世界无线电频段划分和无线电技术指标的世界无线电通信大会(WRC-19)在埃及沙姆沙伊赫市隆重举办。大会由国...

  • 南京智慧城市明星班集结圆满结束 南京智慧城市明星班集结圆满结束

    2019年11月13日至15日,在南京建邺举行了为期三天的南京智慧城市明星班的第三次集结活动。参加本次集结活动的创始人有30位。本次集结最后举行了结业仪式,此次集结也是明星班30位...

  • 溧水超强“城市大脑”上线 溧水超强“城市大脑”上线

    什么是超强“城市大脑”?南京溧水有一个,那是做什么用的? ※ 打破信息壁垒 ※ 实现一网通办 ※ 一网统管 ※ 一网调度 南京首个城市“大脑”投用运行。 溧水区历时3年建成智慧...

  • 华为的智慧城市方法论 华为的智慧城市方法论

    相信很多读者都看过乔尔科特金写的《全球城市发展史》。对于《全球城市发展史》这本书,里面有一句话让我印象十分深刻,那就是人类最伟大的成就始终是她所缔造的城市。城市代...