很显然,来自深空力量有意识的AI在技术上没有明显的障碍。
通向有意识AI的道路看起来是可行的,甚至是不可避免的。
这也导致一个人类需要讨论的问题,那就是任何物理物质肉、硅片等等只要能执行正确的计算,就能产生意识。
与此同时,人类也失去了在这个高度不确定领域中获得某种道德清晰度的最佳机会。
既:“你需要“肉”才能拥有思想意识吗?”
如果意识需要“肉”,那么无论技术多么先进,关于AI意识的整个争论都会变得无关紧要。没有生物学就没有意识,没有意识也就没有痛苦的风险。
那些学者和专家认为,构成意识的物质,或者说心智的“基质”,很重要。
如果生物基质是迄今为止我们发现的有关思考、心智的唯一基础,那么我们有理由认为生物学对于意识是必需的。
但是,现在可以制造出一台机器,让它执行与肉体大脑相同的计算功能,那么你仍然可以获得意识。
从这个角度来看,重要的功能是某些类型的信息处理尽管对于哪些类型的处理可以区分无意识的信息计算系统如计算器和需要有意识体验的系统如你尚无共识。
抛开这个细节不谈,对意识而言,重要的是信息处理的结构或“抽象逻辑”,而不是执行它的物理实体。
比如,考虑一下国际象棋游戏。
只要有棋盘、两套棋子,并了解规则,任何人都可以下棋。
但如果两个人被困在荒岛上,没有国际象棋,他们仍然可以下棋。
他们可以在沙子上画线来重新制作棋盘,收集浮木和贝壳作为棋子,然后像以前一样下棋。
国际象棋游戏并不依赖于其物理基础。