新年快乐！让我们来谈一谈人类灭亡吧！

本篇文章2657字，读完约7分钟

老虎嗅闻:丹·莱昂斯是《瓦尔利瓦格的毒舌》的主编，他整个周末都很忙，谈论人工智能，说这是对“不作死就不会死，你为什么要尝试”的完美诠释。全文标题是:新年快乐-让我们谈谈人类灭绝。它是由老虎嗅探编辑的。如果转载，请注明出处。

斯蒂芬·霍金认为人工智能是一个巨大的威胁。英雄所见略同，还有埃隆·马斯克和牛津大学的尼克·博斯特罗姆教授，他是牛津人类未来研究所的负责人。他甚至写了一本关于这种威胁的书。那些在谷歌思维深处研究人工智能的科学家似乎有点害怕。

他们的表情可能各不相同，但只有一个中心思想，那就是，人工智能可能非常危险。有些人甚至大胆预测，当真正的人工智能出现时，人类将面临灭绝。在我们自己创造的超级新物种面前，我们可能没有反手击球。

几年前，deepmind的联合创始人shanelegg写下了这样一句话:“渐渐地，我相信人类的末日将会到来，技术似乎做出了巨大的贡献。”虽然正文附有一份亲密提示清单，但它仍然让人恐慌。

不久前，霍金甚至说人工智能“将是人类的终结者”。啊，听起来有点激动！

新年伊始，也是周末的好时光。为什么我们不一起打开我们的大脑，想想这个可怜的人类物种在不久的将来会完全消失的可能性呢？

时间线预测

人工智能什么时候会实现？雷·库兹韦尔(现在在谷歌工作)认为，人类将在2029年收获人工智能的果实，而在计算机科学领域奋斗的其他人预测这将在2050年。但是你知道，计算机科学家总是对自己的效率过于自信，尤其是那些研究人工智能的人。关于人工智能的一个笑话是:“完全人工智能的实现将在20年后出现，是的，永远在20年后。”

有些人认为这一天永远不会到来，人工智能是完全不现实和虚假的。如果你选择相信他们的观点...然后你可以停止阅读。

然而，许多聪明和任性的战壕(如谷歌)正在大力发展超级智能。我认为他们最终会做到的。也许时间是错的，可能需要2080年、2100年甚至2200年。但关键是，相对于目的地，我们什么时候到达并不重要。

然而，实现人工智能只是一个起点。一旦机器获得了智能，它们就可以继续以惊人的速度进化。每一代都将被更聪明的后代所取代。不久，计算机将会比我们聪明数百万倍。对人类来说，这些机器更像是新物种——不是生物学意义上的，但它们仍然是新物种。

当这种跨越式的进化发生时，我们人类会发生什么？我们只是普通人，我们的大脑是有限的，人体是脆弱的，我们容易生病和受伤。

像库兹韦尔这样的人相信，我们的后代会用科学和技术武装自己，只是为了不让自己落后。人类将与机器结合。但是，如果这种半生物的复合物种出现了，它们还能被视为和我们一样的物种吗？你还能被称为人类吗？

你可以玩语义把戏，宣称“人类”的定义到那时将会改变。但是为了让讨论继续下去，我认为我们应该把“人类”这个词的定义限制在现在的物种。

这个物种的命运是什么？在我看来，这是一个严肃但不可避免的结论:它们，哦不，实际上我们，将会灭绝。

攻击机器

凯文，英国雷丁大学控制论教授？沃里克·罗列出了以下三步逻辑链:

1.人类是地球上的主要物种。

2.机器很可能会比人类更聪明。

3.因此，机器将成为地球上的主导物种。

这并不新鲜。这些话来自沃里克1997年出版的《攻击机器:为什么机器人主宰世界》一书，他认为人类无法逃脱这一命运。

沃里克写道:“如果你问避免第三点的可能性，那么我想不适当地引用拳击经纪人唐的话。”国王的话:人类有两种生存机会，变得稀少，或者像狗一样服从。稀缺不再属于选择的范围。"

我们应该回到岸边吗？也许我们应该，但是我们很固执。死亡的三个原因:

1.黑色技术的潜在好处让人们想停下来，以至于我们仍然无法与之分手。人工智能可以帮助我们解决用弱人脑无法解决的问题。机器可以探索新的能源。此外，他们对生物学和基因的深刻理解足以创造新的生命形式。他们可以制造工具来研究和发现宇宙的奥秘。最疯狂的理论是，他们可以摆脱重力，探索外太空空.机器也可以利用纳米技术来更新它们的生命形式。

2.由于军事和经济竞争的原因，人工智能一旦被抛弃，就等于落后。事实上，掌握人工智能相当于掌握整个鱼塘。

3.对发明和创造的渴望深深印在人类的骨子里。它是如此强大，我们无法控制它。一步一步，一步一步，两步，摩擦，像魔鬼的步伐，去悬崖~去悬崖~我们永远不会回头，不管它是否与黑色技术有关，不管它有多危险。就英国《金融时报》报道而言，人工智能投资最近略有飙升~

埃里克·施密特说，不要惊慌！

所以每个人都更加害怕。

施密特坚持认为人工智能只会让世界变得更好，没有什么好担心的。但是你知道，施密特应该说，不是吗？他带领整个公司，包括食品室，除了开发人工智能什么都不做！

人们总是认为谷歌是一家搜索引擎公司。就个人而言，它的真正目的是成为一个主宰世界的人工智能公司。谷歌首席执行官拉里？佩奇的父亲是密歇根州立大学的计算机教授和人工智能研究员。就我个人而言，拉里？佩奇的最终目标一直是人工智能。搜索只是为了谋生，支持他们学习真正有趣的东西。

同时，问问你自己。斯蒂芬。霍金说人工智能“将终结人类”。埃里克·施密特，那不是真的。你认为这两个人中哪个更可信，哪个更机智？

这一直是关键点

几年前，我和一位计算机科学家雨果。德。加雷斯。他是澳大利亚人，但住在中国。他被中国政府雇佣开发人工智能，但他开始担心后果，很快就离开了。

可怕的情节不是机器人起来杀了我们，而是我们跟不上它们。他们将远远超过我们，我们将永远落后。

加里斯相信，人们一直在试图设计他们的继任者，而我们人类只是高等生物进化的垫脚石。当然，这么说可能很残忍。在这个星球上生活了200，000年后，我们刚刚开始对我们自己和我们生活的广阔宇宙有了最基本的了解:我们正在破译遗传密码，试图理解大脑是如何工作的，我们正在纳米技术和量子计算方面慢慢前进，我们已经踏上了空.外滩

现在，我们要走了？就在一切都变好的时候？嗯，有可能。毕竟，这并不罕见。成千上万的物种在这里诞生，消失，被精心创造它们的大手碾碎并举起。

有太多的物种从适者生存的铁律中消失了。我们和那些祖先之间最大的区别是人类是第一个自己死去的物种。更好的是，即使我们知道后果，我们也会背弃它——考虑它是愚蠢和伟大的。

人类认为自己是特别的，认为我们可以免受自然法则的约束。我们试着相信我们与其他物种完全不同，并且相信我们是最尖端的创造进化的顶峰。但也许现在，我们需要正视这样一个事实，人类并不像我们想象的那样特别。

向作者提问并加入语料库