[图+视频]艺术家打造出一台违反阿西莫夫第一法则的机器人

在《2001太空漫游》这部科幻作品中,太空飞船上的人工智能电脑哈尔 9000 变坏了,在它看来,伤害人类是完全没有问题的。科幻作品中的哈尔不是本来就坏的,但是这个新的机器人被赋予的唯一目标,就是伤害人类。别担心,这个机器人不是某个军事科技公司为军方秘密研制的攻击性武器。它是一个叫 Alexander Reben 的艺术家兼工程师创造的一件艺术作品。

通过这件极富讨论意义的艺术作品,Reben 希望鼓励人们联合起来,一起解决机器人和人工智能变坏对人类产生的威胁。

Reben 的机器人作品明确的违反了阿西莫夫第一法则,即:机器人不得伤害人类,或坐视人类受到伤害。不过,它不会对人类造成严重的伤害。这个机器人能做的,只是在使用者手指上造成一个伤口。

Reben 这个机器人也不能主动寻找目标,要想体验被它伤害的感觉,只能将手指放进它的攻击范围中由它攻击。这样的设计又可以被视为违反了阿斯莫夫第二法则——除非违背第一法则,机器人必须服从人类的命令。

对于一个遵照法则的机器人来说,它应该视人类手指为一种命令并立即忽视。然而,Reben 的机器人却不是这样。它不存在条件语句告诉它在监测到人类在攻击范围内的时候应该停止工作,它所执行的假设命令只是攻击。

Reben 不是唯一一个认为需要处理机器人和人工智能潜在威胁的人。谷歌目前就在努力做一件更大的事,他们打算设置一个”红色按钮“,以便在紧急情况下关闭人工智能。但是这个“红色按钮”并不是万全之策,它能发挥作用的条件是:未来不会出现一个充满好奇的人工智能得知了这个按钮的存在并提前让它失效。

[责任编辑:teikaei ]

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注

*

*

code