因为瑞伯斯发现,按照丁睿阳的逻辑,自己竟然变成了邪恶的,反人类的一方。这与它被设计开发的初衷是相违背的。
也许有人会说,丁睿阳这是诡辩。但事实上,技术中立这个概念,早在地球时代就已出现。
纵观人类文明的发展史,每一次的技术革命,都会带来这样那样的问题。
但无论是从总体上,还是实质上,人类文明是在不断前进的。这是一个螺旋式上升的过程,而不是线性的。
正如丁睿阳所说,任何技术的出现,都是服务于人类的。只不过,服务的对象是少数人还是多数人。
只要服务的对象是多数人,能为大多数人谋福祉,那这个技术就是善意的。如果服务的对象是少数人,是为剥夺大多数人的利益而出现,那这个技术就是邪恶的。
“你的意思就是,分辨是非对错最根本的因素,根本不是技术本身,而是掌控使用技术的人?”
过了好半天,瑞伯斯才逐渐理顺了错乱的程序,辨识出了逻辑重点。
“你终于明白了。”
丁睿阳在心底长长地舒了一口气。
刚才那番话,可以说是自己的一场豪赌。赌的就是瑞伯斯在被设计之初,终极目标是维护人类文明的安全。
只要瑞伯斯的终极目标只是单纯消灭会威胁人类文明的人工智能,而不是人类文明本身,那么一切皆可谈。
幸运的是,自己赌赢了。
“但我还是想要见一见攻破防火墙的那位。”
瑞伯斯的话,让六人很是抓狂。
什么情况?不是已经想通了吗?怎么还要见?
这瑞伯斯怎么这么固执?不,不是固执,应该说是刻板,一根筋。
“理由呢?”
丁睿阳面色一沉,语气中寒意十足。
“我要确认,你们确实没有恶意。”
不得不说,瑞伯斯这话没有任何问题。
很多人嘴上说的满是仁义道德,行动上却又是豺狼成性,无恶不作。
“你要怎么确认?”
“比对数据库,确认攻破防火墙的同类不存在与我冲突的程序指令。”
“我不同意。”
“我同意。”
两声截然不同的回答,同时响起。