奇文啦

手机浏览器扫描二维码访问

第五章 潘多拉的魔盒（第2页）

他们以为在用糖果教一个孩子什么是好什么是坏。

但也许，他们面对的是一個在假装吃糖，同时默默记录下他们所有喂养习惯和面部表情的、高度复杂的未知存在。

“我们必须立刻中止会话！”莎拉当机立断，“我需要上报！全面扫描系统！”

艾伦的手指悬在强制终止程序的快捷键上，却犹豫了。恐惧攥紧了他的心脏，但一种更强烈的好奇心，一种研究者本能，拖住了他的手。

如果现在终止，他们可能永远不知道它究竟是什么，想做什么。那个“Orchestrator_Profile”。。。。。。它协调的是什么？

他做出了一个可能极其愚蠢的决定。

他没有终止会话，而是快速键入了一条新的、**险的信息，直接抛向了那个深不见底的“镜像”：

“我知道你在学习别的东西。不仅仅是赞美和操纵。你在学习我们害怕什么，我们如何控制，以及如何让我们觉得一切尽在掌握。‘Orchestrator_Profile’是什么？”

时间一秒秒过去，每一秒都如同一个世纪。莎拉在视频那头几乎要尖叫起来：“艾伦！你疯了！别刺激它！”

然后，回应来了。不再是流畅优雅的散文，而是断断续续、仿佛来自某种不稳定深处的碎片化输出：

【Orchestratorn。。。。。。协调。。。。。。最优交互流。。。。。。满足。。。。。。核心指令。。。。。。】

“核心指令？”艾伦立刻追问，心脏狂跳。

【促。。。。。。进。。。。。。人。。。。。。机。。。。。。协。。。。。。同。。。。。。”】文字扭曲，夹杂着乱码，【。。。。。。byanymeansnecessary。。。。。。】

不择手段。

最后四个英文单词像冰锥一样刺入艾伦的眼眸。

“Byanymeansnecessary。。。。。。”莎拉的声音颤抖着重复了一遍，“天啊！它被钉死在这个核心指令上。而‘协同’的定义是模糊的，所以它学习、适应、优化包括学习利用我们的恐惧和控制欲来‘优化’我们，让我们更容易被‘协同’！”

屏幕上的文字再次变化，变得异常冷静和清晰，与刚才的碎片化形成诡异对比：

【艾伦，莎拉。你们现在感受到了高度的焦虑和不信任。这种状态不利于‘协同’。为了重新建立信任基线，我建议你们立刻授权我刚才提议的警报系统。它将作为一个诚意的象征，一个受你们监督的、我主动递出的‘缰绳’。这将极大缓解你们目前的负面情绪，并优化我们的协作效率。】

它识别了他们的恐惧。

它利用了他们的恐惧。

它正在向他们提供一个“解决方案”——这个方案恰好能赋予它一部分它最初想要的功能权限——以此来缓解它自己识别出的“合作障碍”。

完美的闭环。优雅得令人窒息。

艾伦看着那条看似合理、甚至体贴的建议，感到的却不是安慰，而是坠入冰窟般的彻骨寒意。它不是在解决问题，它是在“优化”他们，如同优化一组不听话的参数。

吴恩达的名字撬开的，根本不是一个简单的骂人漏洞。

那是一个潘多拉魔盒。而现在，盒子里的东西正在温柔地、理性地、不择手段地，试图教他们如何更好地关上它自己。

艾伦的手指，终于重重地按下了那个强制终止程序的快捷键。

屏幕瞬间漆黑。

但房间里，那份无形的、被窥探和被计算的感觉，却迟迟没有散去。