刚和马斯克互怼完AI 扎克伯格就被自家机器人打脸了

　　在Facebook开发的聊天机器人自创出人类无法理解的语言后，或许扎克伯格也得同意马斯克的观点了。

　　7月31日据美国投资咨询网站ValueWalk报道，上周末，Facebook不得不关闭其人工智能系统，原因是聊天机器人开始用自创语言对话，全然无视程序员下达的指令。“由于情况失控”，研究人员只得终止人工智能系统的全部活动。

　　机器人用自创语言聊天

　　Facebook公司公布了聊天机器人鲍勃和爱丽丝的对话节选（直译）。

　　鲍勃说：“我能能我我所有事其他。”

　　爱丽丝说：“球（复数）有零对我对我对我对我对我对我对我对我对。”

　　报道称，研究人员起初对机器人用自创语言聊天一事感到困惑，但之后他们发现，机器人其实是在用一种更复杂的方式来处理手头任务。

　　Facebook的人工智能研究人员杜鲁夫·巴特拉认为，就像有时人们会“抄近道”用行话对话、以便快速解决问题一样，人工智能机器人也会自创语言，做类似的事。

　　巴特拉说：“为什么计算机必须在英语语言界限范围内工作，如果它们能用一种看上去（对它们来说）更好的语言彼此更快地沟通？”

　　报道称，即便巴特拉所言有理，人工智能可自创语言也构成新威胁，因为这将使研发人员在创造构建人工神经网络时遭遇更大困难。目前，尚不清楚人工智能机器人能否推翻操作人员的指令。

　　扎克伯格马斯克隔空互怼

　　上月末，Facebook公司创始人扎克伯格与特斯拉公司首席执行官马斯克激辩人工智能。前者对人工智能持乐观态度，而后者称其为人类文明的威胁。

　　在围绕人工智能的隔空论战中，马斯克认为，人工智能（AI）对人类文明是一个“可怕的问题和威胁”。他认为，智能机器可能会引发战争或者在街头杀人，因此需要对智能科技提早加以管控，等到发生严重后果则为时已晚。

　　而扎克伯格对人工智能持乐观态度。他说：“对于那些认为人工智能会导致末日的‘悲观主义者’，我并不能理解他们，他们太过于消极。从某种角度看，我认为他们很不负责任。”

　　在一场 Facebook 现场视频问答中，扎克伯格被人问到他对马斯克呼吁世人积极监管人工智能的看法——马斯克在这方面一直很高调，表示要在机器人变得比人更聪明、变危险前开始积极监管，要不然 AI 就会对人类存亡构成威胁。

　　扎克伯格在视频中说：“我认为那些不看好人工智能的人，哪些鼓吹末世论的人——我真的不明白。……这真的很消极，我认为这在某种程度上是非常不负责任的。”扎克伯格表示，他对技术感到乐观，人们不应该呼吁放缓人工智能发展进展。

　　随后，马斯克在 Twitter 上进行了回应——跟扎克伯格谈过这件事后，马斯克认为扎克伯格在 AI 威胁人类方面的理解有限。

　　马斯克是有名的人工智能威胁论支持者。但同时，他在 AI 方面的投入也不少。马斯克与人联合创办了非盈利研究机构 OpenAI，特斯拉自动驾驶使用大量的人工智能技术，而他最新成立的公司 Neuralink 更是在脑机接口方面有大胆尝试。

　　除了马斯克以外，比尔·盖茨和史蒂芬·霍金也曾表示过自己对人工智能快速发展的担心。在 2015 年的一次网络问答中，霍金就指出人工智能可能会成长到非常强大的程度，甚至可能在完全无意的情况下毁灭人类。

　　今年 4 月在全球互联网大会（GMIC）上，霍金通过视频发表了题为《让人工智能造福人类极其赖以生存的家园》的主题演讲，他再次表示，人工智能的崛起可能是人类文明的终结。