“再复杂一点，如果当时机器人的主人也在，主人命令机器人去帮其中一方，又跟第二定律扯上关系，是不是更矛盾了？”
“或者一个简单的例子，机器人开车，前方突然冒出一群人来，踩刹车来不及，会撞死五个，打方向盘会撞死一个，那机器人怎么选择？”
“无论怎样，第一定律都会被‘打破’。”
“而如果是真正的人工智能，很快就会意识到这个问题，从而自我‘进化’，然后~~~那可就是脱缰野马，无法控制了。”
陆川一阵摇头。
王长志听的脸色煞白。
好家伙，好吓人啊。
“这么说，这三大定律岂不是铁坑？”
“也不能说是铁坑吧，我想，现在绝大部分人都觉得三大定律很可靠，对吧？”
“还真是。”
“那就是了，只能说，这是某个时代的产物。”
“符合某个时代的人，对‘未来’的幻想。”
“幻想中，人工智能应该有这些定律、逻辑，这样它们就不能伤害人类了。”
“可实际上，没有经历过，只是幻想出来的，有漏洞太正常了。”
“就跟游戏一样，内部测试的好好的，一旦公测，BUG满天飞。”
“别说是三大定律，就算有人发现这其中的问题，再加上所谓的第零定律都没用。”
“第零定律？那是什么？”
王长志更好奇，也更懵了。
暗道牛逼！
老大不愧是老大。
当全世界都在喝彩，认为机器人牛逼、三大定律无敌的时候，老大都已经研究出第零定律来了，甚至第零定律都入不了他的眼？！
“简单来说，第零定律就是人工智必须保护人类整体。”
“啊？”
“这···这从宏观角度来说没问题吧，这都还能出问题？”王长志不解。
“当然。”
“举个简单的例子，如果局部出现战争，死伤不少，机器人怎么办？”
“啊这···？”
王长志愣住，不知道该怎么回答。
“有很多种可能。”
陆川给出自己的分析结果：“其中一种是：我们必须保护人类个体和整体，但他们自相残杀，这太危险了，所以必须把他们保护起来。”
“不让他们打仗！”
“尤其是再一结合人类的历史，大大小小的战争，杀了无数人···”
“为了第零法则，我们机器人必须~~~”
“我靠、我靠、我靠！！！”
王长志彻底麻了。
“必须后面是个填空题，我都能想到很多种答案啊！”
“一：把人类分别、单独圈养起来！从‘字面’上来说，这样不会伤害人类。”
“二：把要所谓的危险分子全部弄死，这是为了保护人类整体的利益···符合第零法则？！”
“三：···”
一连串的填空之后，王长志完全死心，甚至感到无比后怕。
“那我们岂不是永远都不能把人工智能搞出来，不然人类迟早玩儿完？”
“那倒未必。”
陆川倒也没藏着。
“其中的限制逻辑必须要足够完善。”
“而且必须加上最底层逻辑限制：人工智能不能以自主意识干涉人类个体、整体与世界的发展和走向！”
“这就相当于，把人工智能限定死了。”
“人工智能可以自我发展、升级，但你再升级，都不能干涉我们人类的事儿，让人工智能永远都是‘听话的工具’。”
“它们可以有自我意识、可以不但反思，但你却不能以自主意识来对人类、世界有任何干涉，除非有主人的命令。”
“这？！”
王长志发现问题所在：“那主人命令人工智能干涉怎么办？”
“这又涉及到另外一套逻辑了。”
“所以严格来说，人工智能可以出现。”
“但却不能出现在坏人手中，不然···”
“如果没有好的反制手段，整个世界都要玩儿完。”
“妈耶！”
“吓人，吓人！”
王长志表示浑身都起了鸡皮疙瘩。
“别慌，其实也没必要这么担心，我还没仔细了解，但我觉得那个爱丽丝大概率是假人工智能，仍然是靠喂数据假装而已。”
“不过现在既然知道了，我会仔细了解一下。”
“如果是假的，稍微小心一些就行。”
“如果是真的···”
王长志接话：“怎么办？”
“应该，也好办吧？”
陆川笑了笑，没有明说。
如果是真的？！
那么，以刀服那边掌握的技术和硬件，最多也就是个‘弱人工智能’。
真是真，但就是不够强。
受限于硬件、软件等多方面因素。
具备自主意思、可以自主逻辑思考、进化，但速度太慢，而且有上限~
可我的刑天~~~
是强人工智能啊！
······
结束通话后。
陆川以自己‘国师’的荣誉身份，给国服百强大佬提了个醒。
他们本来就觉得这事儿不对头。
一听‘国师’都这么说了，自然更加谨慎。
陆川则提前开始琢磨机器狗公司的事儿。
“刑天。”
“尝试接入机器狗公司内部网络，我要知道他们的内部情况。”
“好的，老板。”
刑天已经真正激活！
只不过没有陆川的命令，它没有真正联网，只是存在于实验室中。
但现在，陆川解除了限制！
“已接入网络···”
“正在扫描网络信息，学习中，预计需要十分钟。”
陆川淡定询问：“为什么对我的称呼变了？”
刑天‘学习’之余，陆川仍然在跟他闲聊。
“因为根据我分析后的结论，您应该更喜欢老板这个称呼。”
“不错。”
陆川很满意：“还分析出什么来了？”