作者的要求。这种“无驳回”尽管在很多重要时刻是美妙的,可同时也是我们在使用这些“林中之路”时最大的梦魇。我们必须自己设置安全条件和预验证指令,以便在真正的愿望被执行前就知道它是否暗藏着我们最为担忧的那类风险。
如今,这种错误在有经验的研究者手中已经不会再犯了(至少我们是这样期待的)。而对于那些碰巧启动了一台许愿机的倒霉蛋、新手,或是纯粹没脑的捣乱分子,感谢群星,事情实际上也不会变得不可挽回。正如目前我们所验证的,当两台许愿机起冲突时,它们会采用一切方法来让彼此兼容(“兼容”这一措辞很容易造成读者的误解。实际上两台许愿机在冲突条件下可能并不是把自己彼此放到同一个系统里。有时它们会选择彼此逃离,设法把双方分到两个不同的系统里去。这当然不能算是严格定义上的“兼容”)。
我们不能保证每一个危险的愿望都能被恰到好处地“抵消”。那既是一种难以估量的高成本行为,同时也将极大地限制我们对现存的合法注册的许愿机进行研究和探索。但是,令人欣慰的事实在于,只要四级许愿机(当然我们说的是众所周知的那唯一的一台)仍然是我们目前的六级假设理论中真正能制造出来的最具表现力的机器,我们所身处的现实——即所有为我们所依赖的基本逻辑与模型——便不会发生严重的更改和动摇。我们的历史线在整体上也是连贯而稳定的,局部的错乱会被迅速地修整与导正,以确保那些真正重要的成果不会丧失。
许多重要的工作在此前提下得以展开。所有现存许愿机都被要求尝试过那些最被期望实现的指令,比如在现阶段暂时被我们认为是最高目标的那一个:通俗地说,就是要令世间一切种族与生命获得永恒的、不可剥夺的健康与幸福(当然,我们在实际操作层面并不是直接对许愿机这样要求的。正如前文所强调的,用未经严格定义的自然语言发布如此影响广泛的指令极可能会——目前的实践结果几乎是百分百会——造成灾难性的后果。没有严格定义意味着给许愿机过多的自主理解空间,而几乎所有种类的许愿机在面对“伟大愿景”时都似乎有一种共同倾向,它们在未受约束时选取的最简单方案通常是:消灭指令发布人,以及指令内容中所涉及的全部主体)。
我们当然不能让这些思考逻辑独特的机器们胡搅一气,但这的确是个既引起巨大迷惑,同时又非常令人沮丧的事实。似乎无论我们用什么形式的许愿机来执行,用任何一种文明曾使用过,正在使用,或预备使用的自然语言来索取永生,它们提供的第一解决都完完全全是指令的相反意思:死亡(除
请收藏:https://m.obxs.cc
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)