的福利指标拉升到某个可以被认定为最大化的数值。长久以来我们在这类愿望上争吵不休。风险就明摆在那里,而且几乎是注定会碰到的,鉴于这些愿望都难以给予无争议的定义阐释,而影响范围又是如此广阔,它们当然很可能会引发我们未能在事前评估到的危险后果。
\n
自然我们也同样担心着相反性质的尝试。如果某台许愿机被要求消灭现存宇宙中的所有物种会怎样?正如我们迄今以来从实践中学到的那样,无论任何水平的许愿机都不会“驳回”愿望。它只会在它的理解力和展现力约束下实现操作者的要求。这种“无驳回”尽管在很多重要时刻是美妙的,可同时也是我们在使用这些“林中之路”时最大的梦魇。我们必须自己设置安全条件和预验证指令,以便在真正的愿望被执行前就知道它是否暗藏着我们最为担忧的那类风险。
\n
如今,这种错误在有经验的研究者手中已经不会再犯了(至少我们是这样期待的)。而对于那些碰巧启动了一台许愿机的倒霉蛋、新手,或是纯粹没脑的捣乱分子,感谢群星,事情实际上也不会变得不可挽回。正如目前我们所验证的,当两台许愿机起冲突时,它们会采用一切方法来让彼此兼容(“兼容”这一措辞很容易造成读者的误解。实际上两台许愿机在冲突条件下可能并不是把自己彼此放到同一个系统里。有时它们会选择彼此逃离,设法把双方分到两个不同的系统里去。这当然不能算是严格定义上的“兼容”)。
\n
我们不能保证每一个危险的愿望都能被恰到好处地“抵消”。那既是一种难以估量的高成本行为,同时也将极大地限制我们对现存的合法注册的许愿机进行研究和探索。但是,令人欣慰的事实在于,只要四级许愿机(当然我们说的是众所周知的那唯一的一台)仍然是我们目前的六级假设理论中真正能制造出来的最具表现力的机器,我们所身处的现实——即所有为我们所依赖的基本逻辑与模型——便不会发生严重的更改和动摇。我们的历史线在整体上也是连贯而稳定的,局部的错乱会被迅速地修整与导正,以确保那些真正重要的成果不会丧失。
\n
许多重要的工作在此前提下得以展开。所有现存许愿机都被要求尝试过那些最被期望实现的指令,比如在现阶段暂时被我们认为是最高目标的那一个:通俗地说,就是要令世间
本章未完,请点击下一页继续阅读! 第2页 / 共7页