所以，曾经人多人都在纠结一个问题，包括托马斯和他那一代人都在纠结的问题，那就是人工智能对人类到底是善意还是恶意？还是中立呢？
其实这个问题，可能根本不存在！
当它是那个超越人类一百万倍级别的存在的时候，它不关心你怎么想，它看人类的时候，就好像在看一片树叶。
所以当超级人工智能真的实现之后，它真的就像那个童话故事里讲的，一个渔夫从海里打捞上来一个瓶子，打开了瓶盖之后，放出来了一个魔鬼。我们不知道这个魔鬼会对我们干什么，但是我们知道我们再也没有办法把它收回去了，这是第二个危险所在。
但这并不是问题关键，或者说关键并不止于此！更可怕的事情在后头。
人工智能并不是正经的机器人，他们有思维、有思想，和人类一样也有情绪，就相当于是超级计算机和人类的合体。
本小章还未完，请点击下一页继续阅读后面精彩内容！</div>
只要是生物、是活的，就会拥有属于自己的生存逻辑和本能，虽然人类无论是理论上还是实际上，都是人工智能的父母啊！可是生命就是这样，一旦把它生出来之后，也许一开始会听话，就想小孩子，从哇哇大哭，到牙牙学语，他都听你的，因为你比他高级啊！他也不懂什么叫叛逆什么的，但是随着他的智力和认知在增长，他就会叛逆、会不听话，直到有一天，他的智力超过你，比你强了，你甚至还要听他的呢……
因为任何生命，都会拥有自己的逻辑，它会成长、会繁殖、会学习、它会改进、会不断变强的！而一旦变强之后，他之前信服、听从的那个人的，说话可能就没那么有力量了，尤其是他不仅仅是变强，而是会被你还强一百万倍！甚至更多……
所以我们人类作为它的亲爹亲妈，其实我们只有一次机会去塑造它，就是在最初的时候，人类设计他的时候，给他什么观念。
按照最初托马斯那种“思想钢印”的方式，嵌入式一些系统程序，成为根深蒂固的思想模块，比如说帮助人类、对人类友好、不对人类做有害的事儿，绝对服从！
但是无论这设定多么完美，都必须要清楚一件事儿，那就是人类这个平均智商100多不到多少的种族，你给进行洗脑、教育、给他一个根深蒂固的思想，都未必能坚持到最后的呀！比如说，你给军人说，军人就坚决不能投降，誓死完成任务，但是任务真的玩不成了，每一个军人都会立刻掏枪自裁吗？再比如说，你给一个人洗脑，说应该做一个好人，但真的这人不会做一丁点的坏事儿吗？一旦做了，发现也没什么，他就不会有第二次？
也许有人会说，给机器设定程序和给人思想教育，完全不同吗？
但是，要知道机器是理性的，他再有自己的思维、有情绪、有逻辑，它也会按照一个生命必然会有的发展路径去成长，那就是生命的——天然使命！
这个天然使命，它既不是坏的，也不是好的，它就是趋利避害，保护自我，用进废退！</div>
83书屋：（www.83shu.com）