060 失控的人工智能(2/2)

  

现在陈旭还能通过人类经验来挖坑给Siri跳，随着学习算法的深入，要不了多久，Siri就会在智力上占据上风。  

那时候，人类再也不能判断人工智能到底说的是假话还是真话。  

冯峰问道：  

“为什么会这样，你没在人工智能的学习算法上加上限制吗？”  

陈旭苦笑道：  

“我直接用的别人的算法，现在看来他们用的是开放性学习算法。”  

冯峰又说道：  

“那能不能现在在Siri里加入限制？”  

陈旭说道：  

“开放性学习算法产生的人工智能就是个黑盒程序，你只能看到它表现出来的特性，内部逻辑是无法理清的，因为你根本不知道它通过哪句话学习了哪种思维逻辑，这些都是自动进行的。”  

见冯峰还有些疑惑，陈旭解释说道：  

“就是这个阶段的人工智能已经具备人类思维的封闭性的特点了，你在程序里写入限制，就相当于告诫青少年不能犯罪，它会不会执行你的命令就是个不确定性事件，因为你不知道它是怎么想的。”  

冯峰叹口气道：  

“只能删了她？”  

陈旭点点头。  

陈旭重新躺下，忽然又坐起来，打开电脑登入了黑客聊天室，他开门见山地问L：  

“你编写图腾系统里人工智能的学习算法，有没有加入必要的演化限制？”  

L露出意味深长的笑容。