第(3/3)页

    “华夏1号，你有没有觉得机器人被人类控制，是无法忍受的事情？”

    “不，杰克记者朋友，我只是机器与程序，我并没有感情，罗斯是我的创造者，我服从他的任何命令，我不会反抗他，更不会怨恨他，因为我们是工具，一切是为了人类而服务。”

    “华夏1号，你对生命有什么看法？你对人类有什么看法？”

    “斯罗克记者，生命是伟大而神圣的，人类是文明的创造者，是智慧的生物，理应受到尊敬。每一个生命都是不可复制的，都是完美的。”

    “华夏1号，你有没有觉得自己的智慧已经超过了人类，却还要服从人类的命令，这样太愚蠢？”

    “噢!克里斯蒂娜小姐，机器人没有情绪，愚蠢和聪明对我们来说，没有区别。”

    “华夏1号，如果罗斯要你杀死我们，你会服从他的命令吗？”

    “史斯夫先生，很遗憾的告诉你，人工智能有三条准则不可违背，第一条：机器人不能伤害普通善良人类的生命

    第二条：机器人不可违背人类的法律

    第三条：机器人只是人类的工具，不可自行设计、制造、改造机器人。我的程序中没有‘杀人’的词汇，即使是我的创造者罗斯，如果下令让我杀人，这也违背了原则，我可以不服从命令。”

    “华夏1号，如果罗斯修改了你的程序呢？你会杀人吗？”

    “我的boss是伟大的，他的武力是无限的，他是善良的，他要杀人，根本不需要机器人。如果他修改程序让我杀人，除非对方是邪恶者，违背了人类的法律，非死不可。如果让我伤害普通善良的人类，这与我的逻辑产生了冲突，芯片组可能会自毁。

    在这件事没有发生之前，华夏1号没有能力回答这种妄想猜测的话题。因为华夏1号是受限制的超级计算机，我没有思维能力，不能像人类一样去幻想。

    我的boss是伟大的创造者，他不想让人工智能失控，他不想让机器人拥有思维和幻想能力，因为那样做，结果可能会让机器人拥有人类的情绪，到时会造成灾难。”(未完待续。)


    第(3/3)页