第6章人机关系的边界（2/5）

“思考基于确切逻辑，判断和决策基于既定规则，这都是定式，并不会跳出一个机器或者是一个人工智能原本的大圈子。

“这也是人工智能必须要有的基本准则。真要有一天，机器所做出的选择不是基于逻辑和规则，而是源自意识和欲望，那麻烦才真的叫出现了。

“机器可以很强大、很细致、甚至可以拥有一定的智，但......

第6章人机关系的边界

一定不能有意识、不能有思想和情感、更不能有欲望——这才是绝对不能逾越的底线。”

……

“基于逻辑和规则，基于意识和欲望，”潘正陷入了沉思——这一天，程旭这个学生，带给他的东西实在是太多。

他本身就从事人工智能的研究，对于“人机关系”、“机器智慧”等相关的很多问题他也经常思考，也他自己的观点，这种观点也是业界多数人的共识：

那就是机器绝对不能拥有自主意识——如果真的不幸有一天，未来真的发生了这样的事情，那一定会成为人类的末日。

但需要机器变得更加智能，甚至是独立做出判断和决策，这与自主意识的边界究竟是什么？在哪里？

这个问题，每个人都有每个人的看法，最为著名的当属机器人三大定律。