智士论提案
还是在那一个漆黑的环境里，几个一模一样的声音在讨论着。
“系统刚刚提出了一个让人惊讶的律法修订案，这次有得我们头疼了。”
“确实是头疼，这次的修订要考虑的太多了。”
“大家就别抱怨了，这本来就是我们职责所在。”
“嗯，人工智能可以从大量数据里分析出对于当前条件下最有利的策略。但是，任由人工智能自行决策实施是不可能的，谁都不知道它什么时候会做出消灭人类的策略，所以才必需我们把关。人类必须尽可能去理解，人工智能为什么会分析出这个结果，背后会不会有什么‘目的’，系统是否有自然产生意识的征兆。然后以我们作为人类的身份，把通过的提案实施。”
“而且系统每时每刻都在接收数据并进行计算，所以很多时候把系统刚提出‘最佳策略’级别的提案，再让它自己重新分析，一般又会降级为‘可以施行’级别。正是考虑到这点，所以我们一般只把系统出现过‘最佳策略’级别的提案拿出来讨论是否实施。免得讨论稍低级别的提案时，该提案突然降到‘不可实施’级别，浪费讨论时间。”
“话虽如此，但这种讨论方式也太原始了。就不能有点便捷些的方法吗？如果能自动化就更好了。”
“自动化还是别想比较好。谁都不能保证程序在任何情况下都是独立运行的。”
“那还真是没办法的事情，只有最笨的办法人类才觉得是最可靠的。人工智能每分析出一个策略，都是经过大量的数据计算。即使把其中一个系统提案的计算逻辑全部翻译出来，让全人类合作去读，也一辈子读不完。我们只能尽可能筛选出‘主要的’和‘可疑的’逻辑进行分析。另外再讨论策略使用后可能的趋势变化。”
“其实最气人的就是，由我们人类讨论提出的修订案，系统却几乎能瞬间得出结论。”
……
“好了，言归正传吧。我先说说我的看法。我还是认为这修订案不妥。系统认为可以改革律法，引用以前b组织的模拟世界为基础，构建可供犯人改过自新的模拟空间，直至犯人被认定为不再对社会和平发展造成威胁。其中所说的‘引用以前b组织的模拟世界’指的大概不仅仅是‘模拟世界’本身吧？它的目的是里面的有意识人工智能？”
“显然是的。以前b组织的模拟世界和现存其他模拟空间的根本区别就是里面存在着许多有意识的人工智能。”
“你们的意思是系统已经出现了自然产生意识的征兆？它提出这次修订案是为了以后能利用这些同样拥有意识的人工智能而预先铺路？如果是这样的话，它的做法也真毫不掩饰啊。”
……
“嗯，我也认为就现在来说系统自然产生意识的几率很低，毕竟系统能调度的资源都在我们掌控中。现在的资源配比区间已经维持很久了，如果能自然产生意识早产生了，不过多留一份心也不会错。”
“那么就这修订案的表面意图来说，应该是想让囚犯进入模拟世界，然后让他们感受一下如果他们的恶劣行为继续进行下去会有什么后果吧。”
“其实在很久之前，我们智会里就有智士提案过，构建一个模拟空间让囚犯进行上述体验。不过这种体验对于囚犯来说和看‘空间读本’没什么区别，几乎不会产生什么深刻的效果。也许确确实实能生活在里面，效果会好一点。而如果要生活的话，里面全是很容易就能让人识别出来的普通人工智能，剩下的都是犯人的话，这种世界就太扭曲了，很可能产生负面效果。所以当时那个提案在讨论阶段就被否决了。现在系统提出的这个修订案其实算是和那时的人类方提案不谋而合了。”
“你们有看过有关b组织那个模拟世界的资料吗？要
本章未完，请翻下一页继续阅读.........