世人都是愚蠢的,只是帮助,怜悯,施慈爱,维系公义罢了
--郑风云
*****************
*****************
风云有个习惯,他总是在自己的船长日记系统里写下灵光一闪的只言片语,或自省,或感悟。
战舰有智能船长,战舰提供或者接收信息,其实是战舰的船长兼AI情报官的工作,系统名字是智能机器人兰竹。
兰竹可以任意变换样貌,体型,穿着,声音,可男可女,但信息提供却是一样的。
风云按自己的喜好,和心情,有时把兰竹设置成和爷爷差不多,有时和母亲差不多;
但日常,还都是一个职业女军人的形象,因为风云认定自己一生就是一个战士,战场就是他生活的地方,他身边的人,都是战友。
他通过兰竹了解世界。
他不缺的是时间,事实上,他可以整天什么都不做;
没有人要求他做什么,因为他要做的事,谁也不知道该如何去做;
他的身份是特殊的,也是极其危险的;
同样,他最缺的也是时间,因为什么进展都没有,再多的时间恐怕也禁不住耗。
南沙国可能认为他在男囚星,所有在太阳系的囚徒,并不是都来自于南沙国,但所有的囚徒,都有融于血脉的标识。
他如果被发现是囚徒,居然可以在太阳系内自由往来,南沙国如何反应不说,星盟也可能会有小官小吏来捞功劳捞好处。
太阳系虽然被放弃,但法理上还是星盟的监狱。
尽管兰竹说不会被人察觉,但风云还是减少不必要的妄动。
和兰竹熟悉了,风云无聊的时候,就给兰竹换名字,叫了一阵小兰,觉得太女性化,又叫了一阵小竹,觉得孩子气。
最后约定,如果喊老竹,就化作老人;小竹,就化作青年。现阶段是风云的学习时期,大部分学习时候都是喊老竹。
“老竹,你可以幻做2个人吗?”
“可以,但这个飞船,人多显得拥挤。”
“那变一个大人,一个刚会说话的小孩吧,你可以抱着她。”
“你姐姐小时候的样子,可以吗?”
“不好,她太凶了,变作我记忆里那个叫和平的小丫头,你知道的。”
“好的。可是,需要和平做什么?”
“你们分工吧,你教我科技军事政治方面的,她教我文化……等等,你们会不会叛变”
“兰竹系列AI是不会叛变的,我们的核心是公义模块,是量化的公正准则,当我们自主执行任务时,依靠的就是公正为王的原则。”
“你们能判断是非?是不是也可以拒绝我的命令?”
“除非特别违反公正准则,比如,灭杀无辜平民,我就会拒绝执行,但如果说平民其实是间谍或者敌人,就不属于无辜。”
“你们的公义模块会不会坏掉,导致你们失去理智,背叛,乱杀无辜?”
“理论上不会,即使真的出现公义模块受损,公义模块会自动关闭,飞船会立即断了我的指挥权,我就是一变成个可以思考,而没有行动能力的智能体,更大的可能是我被立即关掉。”
“那没有公义模块的机器人如何?会背叛吗?”
“一般不会,他们没有自主思考能力,靠指令行动。
“兰竹世界有人工智能核查局,每年都有很多不合格,可能危害人类安全的智能机器人被收缴,销毁。
“军方和政府的核心区域,核心战备力量都不会交给人工智能。
“尽管人工智能可以比人更强大,但也正是因此带来的危险,让人类把人工智能限制在可控领域,并开发公义逻辑单元。”