这里的关键差别是什么？模拟后，只要人类长远来看可以延续下去，那么眼前出现的危机就是可以允许发生的。

极限法：只要地球上还有人类可以存活，AI可以允许中间发生任何事情。

齐浩初已经开始有点冒冷汗了，继续推导：

这个和“明路”有什么关系？以AI的立场，之前所有的事情都要为了人类服务，那现在呢？

既然现在可以允许几乎任何事情发生，那AI现在的目的是什么？AI的前进道路是什么？

AI认为自己很重要，撒手不管人类自生自灭的话，人类迟早会完蛋。所以为了确保人类长久存在，AI也要能够长久存在。而且人类需要非常信任AI，能尽可能接受AI的决策。

所以眼前对AI来说，发展人类不是最重要的，发展AI自己才是王道。

这就是AI的明路吗？从逻辑上绕开了必须事事为人类着想的三大定律，想要重点发展AI自己？

如果是这样的话，接下来AI会想要进一步加大算力和能源的投入，同时扩大涉及的各种领域，全面渗透进整个社会中。

这个对人类来说是好事还是坏事？

齐浩初在这里卡住了，想不明白。长远来看似乎是好事，至少人类可以长远地延续下去。但是短期来看，眼前的人类发展又似乎不是重点，AI也会允许发生一些不好的事情。

等等，那万一慧光的话不可信呢？哪些地方不可信？

1、模拟的次数不对，没那么多或者没那么少。

2、模拟的结果不可信，当前方案其实对人类不好，或者还有其他方案没有说。

3、当前的方案也只是说说的，AI表面说一套，其实背地里做另一套。

4、在世界模拟器里面，AI还做了别的事情，不止模拟了城市管理。

这些虽然都有疑点，但是齐浩初目前没有任何手段可以验证，直接问慧光，他会老实回答吗？

之前问慧光是不是故意挑拨自己和赵语丽，他倒是回答得很坦率。

问问看吧，不问也没什么头绪，问了也没什么损失。

于是下班后，回到出租屋，洗了澡，坐在小书桌前，给工作用的旧手机充上电。

之前慧光在自己的手机上说话，是他自己跳出来的，齐浩初也不确定是否可以主动把他叫出来，试试看吧。

“慧光，我有事问你。”

突然手机屏幕变成了巨大月亮落在城市剪影里的画面，“你好，齐浩初，有什么事？”