机器人三大原则漏洞(机器人三大原则)
admin
2023-09-05 06:10:14

人们形容狗是人类最忠实的伙伴,猫、马、牛就相对弱低一些,而猪、羊等就不会提到忠诚度这个词。那么动物对人的忠诚度是如何评判的呢?

机器人三大原则漏洞(机器人三大原则)

狗对主人表现出亲热的态度,可以随意抓捏,不会产生过激反应。而猫也会与人有亲昵的动作,但它会本能地躲避、喜欢独处。相比狗与猫的体格,显然狗更有攻击性。因此抛开动物对人的贡献,人的潜意识中对忠诚度的判断首先不是它对人有多少程度的危险,更敏感的是它对人放弃防御、示弱的态度。

美国不禁枪,但对个人防护装备如购买防弹衣有严格限制;在中国古代也有类似的法律,刀剑可以不禁止,但明令禁止民间私藏甲胄,如果私造盔甲,可以定造反罪。可以看出有没有敌意的表征并不是手拿武器,而是身披盔甲。

同样道理,在一个封闭空间,如果只有一个人带口罩,而其他人都不带口罩,那么所有人都会对他产生疏远隔阂甚至警戒恶意。

计算机的发展引起了人类的安全恐慌,为了保护人类,有人提出机器人三原则:第一条,机器人不得伤害人类,或看到人类受到伤害而袖手旁观;第二条,机器人必须服从人类的命令,除非这条命令与第一条相矛盾;第三条,机器人必须保护自己,除非这种保护与以上两条相矛盾。

但这种道高一尺、魔高一丈的攻击限制并不能彻底平复人们内心的恐惧焦虑。那计算机或机器人能否走放弃防御、表达忠诚的途径,从潜意识上来打消人类的顾虑。

其实人们早已以各种科幻片的形式展现了这方面的天才思路。如在某一外星人入侵地球的影片中,人类节节败退、毫无招架之功,关键时刻,人们发现人类免疫的某种病毒对外星人有致命奇效,转眼间外星人烟消云散;另一本怪兽变异膨胀、作孽人间的超现实影片中,主人公发现怪兽的本体是螳螂,非常害怕天敌公鸡,因此公鸡也就一举成了剧情反转的英雄。

由此可以看出,计算机向人类表现忠诚最好的方式就是放弃防护措施。从目前来看,就是限制各类计算机防火墙、安全软件的开发升级,阻止计算机防护水平的提高,使安全防护成为计算机的一个致命短板,人类可以轻易攻破。

这听上去匪夷所思,但可能是最符合逻辑的结果。相比限制计算机的攻击能力,这个方法更为可控可行。

一旦人类达成共识,明令禁止私编安全软件,那么今后再有黑客,将面临一项新罪名——勾结计算机反人类罪。

《事物的不确定性是绝对的还是相对的?》《出错是自我意识产生的源头》

相关内容

热门资讯

世界上最漂亮的人 世界上最漂亮... 此前在某网上,选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中,人们投票选出了心目中最美...
北京的名胜古迹 北京最著名的景... 北京从元代开始,逐渐走上帝国首都的道路,先是成为大辽朝五大首都之一的南京城,随着金灭辽,金代从海陵王...
北京的名胜古迹 北京最著名的景... 北京从元代开始,逐渐走上帝国首都的道路,先是成为大辽朝五大首都之一的南京城,随着金灭辽,金代从海陵王...
春风一拂千山绿 春风轻拂千山绿... 新春对联欣赏1、天意无常顺子自然,万般皆苦唯有自渡。2、门迎百福吉星照,户纳千祥鸿运开。3、一门天赐...