第370章 危险临界体(一)(4/4)

“这样的AI诞生完全是基于巧合,但大部分时候,它们都起源于人类用于处理事务的软件或者程序。

德拉曼就是这样一个AI,它的公司本想定制一个用于提高公司竞争力的管理型AI。

可是使用者因为一次又一次从德拉曼的建议中获利,开放了更高的权限,最终AI认为公司不应该存在人类,那会提高成本。

于是它就开掉了所有工人和管理层,甚至采用一系列商战手段赶走了股东和董事。

当它接收到的外界刺激足够时.它就有概率具备真正的自主智能和意识,那个时候,它就会变成危险临界体。

这个时机完全无法预测,目前来说,人类还无法理解这样的变化过程。”

“就像远古海洋中的第一个细胞?”

“对。”布莱斯点头肯定了里尔的比喻,“纯天然,我们要对付的就是这样的AI。”

“那为什么会放任德拉曼开公司?”

问题提出,车子仍然平稳运行。

这个问题几乎是在问:为什么不干掉德拉曼,但老德完全没有反应。

可以说是非常有职业素养了,说闭嘴就闭嘴。

布莱斯揉了揉眉头,对德拉曼说到:“接下来的话不允许做任何记录,引用个人隐私条款第3、17和22条。”

“明白了,出租车的记录功能已经关闭,并为您检测任何可能存在的监控装置。”

“如果.”布莱斯看向里尔,“如果生物学家有机会观察第一个生命是如何诞生的,你认为他是会继续观察,还是因为这可能变成恐怖的生物或者某种病毒先把培养皿给砸了?”

里尔微微颔首:“如果是我的话,我会为了了解那些恐怖生物和某种病毒,观察生命诞生的过程。”

“就是这样。”布莱斯微微一笑,“你看,你已经明白了——正是因为我们不理解,所以我们想要观察这个过程。”

(本章完)