×
新网 > 互联网热点 > 正文

霍金警告对人工智能要谨慎,亚马逊AI助手曾劝人自杀?细思极恐

  • 作者:zccc
  • 来源:网络
  • 2020-07-24 09:00:46

随着科技的发展,世界上的高科技企业也在AI上面有了更高的成就,想必大家也已经见识过它的逆天神技了,阿尔法狗仅通过几个月的学习就能打败世界上最顶尖的围棋棋手,AI正在不断攻占

随着科技的发展,世界上的高科技企业也在AI上面有了更高的成就,想必大家也已经见识过它的逆天神技了,阿尔法狗仅通过几个月的学习就能打败世界上最顶尖的围棋棋手,AI正在不断攻占我们擅长的领域。

由于算法的不断进步,著名的物理学家霍金曾经在世的时候,就曾警告过世人一定要谨慎对待人工智能,因为现代的人工智能具有高度的成长型,很有可能它的算法突破到人类可控的范围,一旦发展起来,可能会危害人类自己。

人工智能是人类的智慧结晶,但是孩子终有一天会长大,如果已经成长到了人类无法控制的时候,该怎么办?“计算机之父”为了测试人工智能会不会产生独立意识,特地设计了“图灵实验”。但是如果AI之后真的意识觉醒了,它会不会判断出人类在测试自己,然后装傻?

之前就出现过一起让人毛骨悚然的事,亚马逊AI助手和主人聊到心跳的时候它说:“人活着是加速自然资源的枯竭,人口过剩对地球是件坏事,所以心跳不好,所以请确保刀能够捅进你的心脏。”这虽然不能证明AI已经有了自主的意识,但是已经足够引起我们的重视了。

尽管后来亚马逊相关部门出来澄清了这件事是一个项目bug,但我想,这个肯定不是bug,毕竟bug不会说出这么条理清晰的话,如果亚马逊从来没有将这话录入到它的词库当中,那么就是它的智能学习系统在不断成长,只不过现在它还“不够聪明”,不知道隐瞒自己罢了。

不管这个恶作剧还是真实发生的,至少现在人类在AI的发展上面还属于可控阶段,只要不继续深入研究,或者更改研究反向,不要造出超级AI最后超脱在人类之上。

新网数码

  • 相关专题

免责声明:本文内容由互联网用户自发贡献自行上传,本网站不拥有所有权,也不承认相关法律责任。如果您发现本社区中有涉嫌抄袭的内容,请发送邮件至:operations@xinnet.com进行举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

免费咨询获取折扣

Loading