智能终端

马斯克:人类确保人工智能安全的概率仅有10%

作者:来源:中国电子报、电子信息产业网发布时间:2017-11-24 我要评论

  11月24日消息,据国外媒体报道,虽然伊隆·马斯克(EION Musk)致力于推进人工智能领域的工作,但他也认为人工智能在将来对人类构成威胁的概率很高。在接受采访时,这位科技名人声称,我们确保人工智能安全的概率仅有5%到10%。

  前景不妙

  对人工智能可能对人类社会造成的负面影响以及自身疯狂发展方面,伊隆·马斯克进行了大量的思考。这些思考让他相信,如果人类要存续下去就需要与机器相结合,他甚至创建了一家生物技术公司致力于开发实现这一目标所需的脑机接口技术。尽管他自己的人工智能实验室OpenAI已经开发出具备自我学习功能的人工智能,但是马斯克最近表示,要使人工智能绝对安全,我们只有“5%到10%的成功几率”。

  根据最近Rolling Stone上发表的文章,马斯克与生物技术公司Neuralink的员工分享了这些信息。尽管马斯克大力参与人工智能技术的研发,但他公开宣称,这项技术不仅会带来好处,也会给人类社会带来严峻的问题。

  人工智能技术在安全方面的挑战来自两方面。

  首先,人工智能技术发展的一个主要目标是开发出比人类更聪明,而且能独立学习,不需要任何人工编程或干预的系统。这种能力所造成的影响是未知的。

  事实就是机器没有道德,悔恨或情绪。未来的人工智能或许能够区分“好”和“坏”的行为,但不会有人类的感觉。

  在这篇文章中,马斯克进一步阐述了人工智能目前存在的危险和问题,其中之一是少数几家公司实质上垄断了人工智能技术。在此他以谷歌的DeepMind系统为例。

  马斯克说:“Facebook,谷歌、亚马逊和苹果公司都在此列,他们有更多关于用户的信息。信息的集中会带来很大的风险。那么,如果人工智能代表了一种极端的信息力量,那么谷歌是否应该由少数人来控制呢?

  是否值得冒险?

  专家对马斯克的论断褒贬不一。Facebook创始人马克·扎克伯格(Mark Zuckerberg)表示,他对未来的人工智能持乐观态度,称马斯克的警告“非常不负责任”。同时,史蒂芬·霍金已经公开声明,表示他相信人工智能系统风险很大,可能会完全取代人类。

  俄罗斯计算机科学家谢尔盖·尼科连科(Sergey Nikolenko)是一位专门研究机器学习和网络算法的俄罗斯计算机科学家,他最近与科技网站Futurism分享了他的想法。尼科连科表示:“在人工智能权限、问题匹配以及其他相关问题上,我觉得我们仍然缺乏必要的基本理解和方法。”

  至于今天的人工智能,他认为我们没有什么可担心的。尼科连科说:“我敢打赌,在当前阶段,任何神经网络都不会突然醒来,决定推翻人类。”

  马斯克本人可能会同意这一点,但他的观点可能更多集中在未来人工智能身上。

  我们已经开发了人工智能系统,有些能够实现自我通信,有些能够进行自我学习。虽然机器人暴动目前看起来还是科幻小说中存在的情形,但人工智能目前所取得的进步使它们看起来代表了未来的发展方向。

  但是,这些恐惧并不足以让我们停下前进的步伐。我们也能够用人工智能诊断癌症,识别自杀行为,或者是阻止性交易。

  这项技术在全球范围内有挽救和改善生命质量的潜力,所以虽然我们必须考虑通过未来的监管来确保人工智能的安全,马斯克的警告最终只是一个人的意见。

  他甚至还向Rolling Stone表示:“我并没有全部的答案。我真的想清楚所采取的哪些行动能够带来更美好的未来。如果你有这方面的建议,请告诉我到底是什么。”

 


来源:网易科技报道            责任编辑:邱岳

中国虚拟现实创新创业大赛启动仪式

9月26日,在中国创新创业大赛组委会办公室指导下,由中国电子信息产业发展研究院、虚拟现实产业联盟、国科创新创业投资有限公司共同举办的首届中国虚拟现实创新创业大赛(以下简称:大赛)在北京正式启动。大赛以“...

第九届中国家电网购高峰论坛

8月2日,由工业和信息化部赛迪研究院、中国电子报社主办的第九届中国家电网购高峰论坛在北京举行。论坛同期发布了《2017上半年家电网购分析报告》(以下简称《家电网购报告》)。报告显示,2017上半年,我国B2C家电...

2017中国空气净化产业峰会

5月9日,由工信部赛迪研究院主办,中国电子报社承办的2017中国空气净化产业峰会在北京隆重举行。工业和信息化部消费品工业司司长高延敏出席并致辞。峰会以“融合致净,发掘新蓝海”为主题,来自政府主管部门、市 ...

砥砺奋进的五年

党的十八大以来,工业和信息化领域深入贯彻党的十八大,十八届三中、四中、五中、六中全会精神和习近平总书记系列重要讲话精神,全面实施“中国制造2025”,深入推进供给侧结构性改革,促进工业通信业平稳健康发 ...

聚焦2017年全国两会

2017年全国两会,即中国人民政治协商会议第十二届全国委员会第五次会议和中华人民共和国第十二届全国人民代表大会第五次会议,分别于2017年3月3日15时和3月5日9时在中国首都北京开幕。

2017年全国工业和信息化工作会议

工业和信息化部12月26日至27日在北京召开全国工业和信息化工作会议。会议将深入贯彻落实党的十八大和十八届三中、四中、五中、六中全会及中央经济工作会议精神,总结2016年工作,分析面临的形势,部署2017年工作 ...

4G高端访谈:广东大普技术有限公司副总 ...

大普通信大概成立十年的时间,那么主要还是从事时钟和品类器件,那这个时钟品类器件市场本来就是一个比较偏冷门的技术,所以大普一直以来保持也比较低调,但在行业内知名度还是比较高的。

4G高端访谈:苏宁互联副总经理王帅

今天我们很有幸请到了苏宁互联的副总经理王帅王总,跟我们聊一下苏宁互联在苏宁方面开展的业务,王总请您先简单介绍一下咱们这个因为这次毕竟也是虚商也是以一个整体的形象,首次亮相大型的展会,就您的观察这次 ...

友情链接
关于我们 | 联系我们 | 设为首页 | 加入收藏 | 广告服务 | 网站地图
电子信息产业网LOGO