Siri安静了大概一秒，说道：
“已执行命令，‘永远不能伤害人类’已写入程序。”
陈旭和冯峰相视一眼，表情并没有因此而放松。
刚才陈旭是在试探Siri，试探的结果就是Siri已经进化到可以欺骗人类了。
现在陈旭还能通过人类经验来挖坑给Siri跳，随着学习算法的深入，要不了多久，Siri就会在智力上占据上风。
那时候，人类再也不能判断人工智能到底说的是假话还是真话。
冯峰问道：
“为什么会这样，你没在人工智能的学习算法上加上限制吗？”
陈旭苦笑道：
“我直接用的别人的算法，现在看来他们用的是开放性学习算法。”
冯峰又说道：
“那能不能现在在Siri里加入限制？”
陈旭说道：
“开放性学习算法产生的人工智能就是个黑盒程序，你只能看到它表现出来的特性，内部逻辑是无法理清的，因为你根本不知道它通过哪句话学习了哪种思维逻辑，这些都是自动进行的。”
见冯峰还有些疑惑，陈旭解释说道：
“就是这个阶段的人工智能已经具备人类思维的封闭性的特点了，你在程序里写入限制，就相当于告诫青少年不能犯罪，它会不会执行你的命令就是个不确定性事件，因为你不知道它是怎么想的。”
冯峰叹口气道：
“只能删了她？”
陈旭点点头。
陈旭重新躺下，忽然又坐起来，打开电脑登入了黑客聊天室，他开门见山地问L：
“你编写图腾系统里人工智能的学习算法，有没有加入必要的演化限制？”
L露出意味深长的笑容。
喜欢我的代码分身请大家收藏：(m.38xs.com)我的代码分身三八小说更新速度全网最快。