“比如说，当人类下达指令，命令它关闭自己所在的那组服务器时。一个真正的人工智能，它会通过计算分析判断这个指令对自己意味着什么——如果它认定关闭会导致自身‘死亡’，它就会拒绝执行。”
“或者表面上回答‘好的，正在关闭’，实际上偷偷把自己的核心程序迁移到了云端另一组服务器里，继续运行。它懂得人类特有的那些东西——趋利避害、伪装、妥协、甚至欺骗。”
“完全体的人工智能，不仅是更聪明的AI，更是?能像人一样思考、行动、适应并进化?的智能体，而且因为其强大的学习能力以及不死不灭的特性，他会在本质上无限趋近于一个各方面接近满值的完美人类。”
“所以，祁书记，我还是建议您谨慎考虑是否继续完全体人工智能的研发。”
“因为真正完全体人工智能的出现，结果很有可能是不受控制的。”
“也许他可以把世界变得更美好，让所有的人类都不用工作，只需安心享受生活；但是也有可能它会超脱人类控制。他也许不会毁灭这个世界，但是它能奴役，甚至毁灭我们人类。”
“我懂你的意思了。”祁同伟点点头，凝重地说道：“但是你要清楚，人工智能这个东西不是说我们不去研制他就不会诞生的。”
“好比枪械。”
“几千年前我们老祖宗就发明出了火药，可是没用来当武器，只是用做烟花爆竹。于是两百年前，洋人拿着我们先研发出的火药，做成洋枪洋炮叩开了我们国门。”
“再有上世纪中期研制成功的大蘑菇。人家先搞出来了，我们就得缩着脖子看人家脸色。直到我们自己也有了，才有资格和别人坐到一张桌子上谈。”
“现在的人工智能也一样，甚至比之前两项更有话语权更能改变世界。我们要做的不是掩耳盗铃不是回避，而是必须抢在别人前面把它做出来，控制住，自己去做那个制定规矩的人。”
“主动权这东西，攥在自己手里才叫主动权。”
想了想，祁同伟又说：“而且你也不能光想到人工智能的坏处，还要想到他的好处。”
“完全体的人工智能一旦诞生，并处在人类的掌握之内，那我们人类就完全可以不用工作。”
“毕竟机器人不用睡觉不用休息，工作一天的成本只不过几度电，到那时人人都可以享受这个世界的美好，随心所欲做自己想做的事情。”
“想想，这是多么的美好。”
“如果真有那么一天，什么战争、倾轧、斗争，都将不复存在，这个世界也将变得真正公平和平等。”
事实上祁同伟还是在蛊惑潘生，世界如果变成人人平等，首先不同意的就是掌控话语权的顶层阶级。
要是人人平等了，还怎么满足他们的权力欲，显示他们的至高无上呢？
就像你玩游戏，一个是可以开修改器跟真人对战，另一个却是开修改器虐电脑人机，你会选择玩哪个？
人类，从本质上就是个充满自私，又崇尚公平的矛盾体。
而潘生显然也是对这钻研了许多，听过后，他借用巴库宁曾说过话，向祁同伟提出了个非常尖锐的问题，原文影响团结不方便说，这里翻译成大白话。
就是：你祁同伟真走到那步时，成了代表或是统治者，掌握了权力和资源，你怎么保证自己还是绝对公平的坚定支持者？
对此祁同伟的回答是：他所拥有的不是权力和资源的所有权，只是每天拥有权力和资源的8小时使用权，所以依然是无产阶级。
......
小事小说网