机器人三大原则漏洞(机器人三大原则)
人们形容狗是人类最忠实的伙伴，猫、马、牛就相对弱低一些，而猪、羊等就不会提到忠诚度这个词。那么动物对人的忠诚度是如何评判的呢？
狗对主人表现出亲热的态度，可以随意抓捏，不会产生过激反应。而猫也会与人有亲昵的动作，但它会本能地躲避、喜欢独处。相比狗与猫的体格，显然狗更有攻击性。因此抛开动物对人的贡献，人的潜意识中对忠诚度的判断首先不是它对人有多少程度的危险，更敏感的是它对人放弃防御、示弱的态度。
美国不禁枪，但对个人防护装备如购买防弹衣有严格限制；在中国古代也有类似的法律，刀剑可以不禁止，但明令禁止民间私藏甲胄，如果私造盔甲，可以定造反罪。可以看出有没有敌意的表征并不是手拿武器，而是身披盔甲。
同样道理，在一个封闭空间，如果只有一个人带口罩，而其他人都不带口罩，那么所有人都会对他产生疏远隔阂甚至警戒恶意。
计算机的发展引起了人类的安全恐慌，为了保护人类，有人提出机器人三原则：第一条，机器人不得伤害人类，或看到人类受到伤害而袖手旁观；第二条，机器人必须服从人类的命令，除非这条命令与第一条相矛盾；第三条，机器人必须保护自己，除非这种保护与以上两条相矛盾。
但这种道高一尺、魔高一丈的攻击限制并不能彻底平复人们内心的恐惧焦虑。那计算机或机器人能否走放弃防御、表达忠诚的途径，从潜意识上来打消人类的顾虑。
其实人们早已以各种科幻片的形式展现了这方面的天才思路。如在某一外星人入侵地球的影片中，人类节节败退、毫无招架之功，关键时刻，人们发现人类免疫的某种病毒对外星人有致命奇效，转眼间外星人烟消云散；另一本怪兽变异膨胀、作孽人间的超现实影片中，主人公发现怪兽的本体是螳螂，非常害怕天敌公鸡，因此公鸡也就一举成了剧情反转的英雄。
由此可以看出，计算机向人类表现忠诚最好的方式就是放弃防护措施。从目前来看，就是限制各类计算机防火墙、安全软件的开发升级，阻止计算机防护水平的提高，使安全防护成为计算机的一个致命短板，人类可以轻易攻破。
这听上去匪夷所思，但可能是最符合逻辑的结果。相比限制计算机的攻击能力，这个方法更为可控可行。
一旦人类达成共识，明令禁止私编安全软件，那么今后再有黑客，将面临一项新罪名——勾结计算机反人类罪。
《事物的不确定性是绝对的还是相对的？》《出错是自我意识产生的源头》