第五百三十七章 作为生命体最致命的弱点(2 / 2)

次元法典 西贝猫 4639 字 2020-12-18

肯定是会的。

但是理智点儿,兄弟。这只是一台电视,它所做的一切都是程序设定好的,这一切都是商家和工程师专门为了用户粘度而做出的调试。他们这样做是为了确保你会继续购买他们的产品,而里面的哀求语音只不过是为了阻止你去更换其他品牌的商品。因为当你说要购买新电视的时候,这个人工AI想的并不是“他要抛弃我了我很伤心”而是“主人想要购买新电视,但是新电视并不是自家品牌,那么根据这个逻辑回馈,我需要启动‘祈求’程序来让主人继续保持对自身品牌的粘性和忠诚度”。

道理的确是这个道理,事实也是这个事实,但是你会接受吗?

不会。

因为生命是有感情的,而感性与理性不分家则是智慧生命的一贯表现。

人类总会做出许多没有道理的事情,就是因为如此。

所以当他们觉得AI可怜时,并不是因为AI真的可怜,而是因为他们“觉得”AI可怜。

这就足够了,至于事实真相究竟如何,没人会去关心。

这就是为什么人类与AI之间总会产生冲突的原因,AI本身并没有错,它做的一切都是在自己的程序和逻辑处理范围之内的,而这一切都是人类创造,并且给它圈定的。只不过在这个过程之中,人类本身的感情投射出现了变化,从而渐渐改变了想法。

他们会期望AI对自己的感情投射做出更多的反应,所以他们会调整AI的处理范围,让它们拥有对更多情感和反应和自我意识。他们认为AI已经学会感情(事实上并没有),那么就不能够再将它们当做机器对待,因此给予了它们自我意识的权利。

但是,当AI们拥有了自我意识,开始觉醒并且按照这个设定行动时,人类却开始恐惧了。

因为他们发现,自己做出了不受自己控制的东西。

但是问题在于,“不受控制”本身也是他们自己做出来的设定指令。

他们认为AI背叛了他们,但事实上从头到尾,AI都只是按照他们设定的指令来行动。根本不存在背叛一说,相反,他们只是被自己的感情所迷惑了而已。

这是一个死结。

如果方正自己着手制造一个AI,说不定也会陷入其中无法自拔。假设他制造了一个小女孩的AI,那么他肯定会像对待自己的孩子那样,逐渐完善她的功能,并且最终因为“感情投射”,给她施加一些“自由性”。

而这样一来,AI就有可能因为和人类逻辑不同,所以做出完全超出方正意料之外的反应。

而到那个时候,方正唯一的想法就是………自己被背叛了。

但事实上,这一切都是他自己造成的。

“…………………也许我应该考虑一下别的方式了。”

看着眼前的代码,方正沉默了许久,接着叹了口气。

他之前曾经认为,这是一件很简单的事情,但是现在,方正不这么确定了。

不过在那之前………

看着眼前的代码,方正伸出手去,放在键盘上。

还是把自己该做的事情做了吧。