“片区内遭遇电磁辐射袭击，电磁防护层有效，大楼内部没有重要设备损坏，我去查看了宝石骑士，它自动开启了防御模式——”
米勒喘着粗气向费程快速汇报，万幸，在这个点他还没有离开大楼，不然他连一个能够通报的话事人都没有——通讯中断，他必须自己对一切决策负责。
他能负得了什么责？这是费家的产业，这栋楼里的东西贵得能买下几千上万个他。
费程打断了米勒：“防御模式？”
“对，”米勒快速道，“宝石骑士又自主升级了。它学的东西又多又杂，新闻、官方数据库，所有来源相对可靠的信息都成为了他的学习对象，这一年多的战争，它学到了很多新的玩意——它给大楼的一体防御系统输入了新的指令，部分设备在几个月前已经被它悄悄预设过安全模式，多亏它提前设定的紧急预案，大楼里面很多设备及时断电，数据
得到保存，它还给我发了预警提示。”
“什么提示？”
“它让我遣散大楼所有员工，”米勒擦了一把额头上的汗水，“我没有更多跟它沟通的权限，您知道的。具体的原因它没有告知我，情况紧急，我照指令吩咐给了人事部的主管，他现在应该已经将命令传达下去了。”
费程皱着眉头，双手交叉在下巴下面，托起来下垂的脑袋。
米勒猜不出来他在想什么，他们一直都有这样一个担心，宝石骑士通过自主学习，有一天从工具变成主人，反过来让他们这群创造利用它的人成为奴隶——在最开始，这是一条荒谬的假说，他们输入好多条基础指令，比如不能够攻击的名单，必须服从的指令名单，预防宝石骑士的翻脸不认人。
但现在不一样了，宝石骑士的所有行为都说明了，给予机器高度的自由的确能够让机器进步显著，自由也带来了极大的不可控——它越来越像人，像人钻法律的漏洞一样，它不停地钻指令的漏子，他们跟不断更新的法律条令一样给它打补丁，它又进行更多的自主学习，从补丁中寻找更多的漏洞。
没有天衣无缝的法律条文，也没有天衣无缝的指令补丁。
内容未完，下一页继续阅读