机器人“三定律”背后的逻辑是否足够缜密？

80多年后的今天，人工智能不再只是文学作品中的幻想。 击败世界围棋冠军的AlphaGo、聊天机器人程序ChatGPT、AI绘画软件等人工智能的诞生和惊人表现正在引发公众关注。 除了震惊和赞扬之外，他们也面临着不少质疑。

人工智能的发展会失控吗？ 机器人三定律背后的逻辑是否足够严谨？ 它在人工智能新时代仍然有意义吗？ 19日在成都举办的2023成都世界科幻大会主题沙龙——“科幻与未来科学”上，嘉宾们进行了有趣的思想碰撞。

机器人三定律背后的逻辑是否足够严谨？

据了解，“三定律”具体包括：第一定律是机器人不得伤害人类个体，或者眼睁睁地看着人类个体遇到危险却袖手旁观； 第二定律是机器人必须服从人类给它们的命令，除非这个命令与第一定律一致。 自相矛盾； 第三定律是，在不违反第一定律和第二定律的情况下，机器人必须尽可能保证自身的生存。

在人工智能科幻作品《诸神时代》的作者颜夕看来，“三定律”本身的问题在于语言本身并不包含三原则。 “把对机器人的约束放在非常抽象的语言层面上，这只是人类的想法。因为机器人的语言和逻辑非常底层，所以它会通过各种强制的详细解释来绕过这些规律。” 这就是为什么他认为“三定律”对机器人的约束力可能不够，也不会得到很好的执行。

“这涉及到下一代人工智能，或者说语言智能的发展将走什么路。” 中国科学技术大学信息科学与技术学院教授宋岩表示，这个问题实际上也是人工智能研究人员和从业者面临的问题。 一个经常被问到的问题。 在他看来，从过去的经验来看，人类一直在以最拟人化的方式构建人工智能系统，包括现在使用大量参数来促进学习。 事实上，他们都在不同方面推广机器人。 拟人化方向发展。 “未来几年，这条路可能还会走。”

“不变”之中，也有几处变化。 宋岩举了例子，比如人类知识体系如何表达，自然语言与其他模态结合的发展等。 “下一步，也许在其他模态的辅助下，我们可以有效地减少数据，达到想要的效果。下一步就是让机器人自己思考。” 如果发展到这一步，机器人的发展也许就能达到我们今天希望它在理解语言方面达到的效果。

人工智能融入我们生活的可能性有很多。 它会取代人类吗？

未来，人类与人工智能能否和谐共处？

颜夕认为，当我们谈论人工智能伦理时，可能需要约束的是人工智能的开发者，而不是人工智能本身。 “早期，当人工智能技术还不够成熟的时候，我们思考人工智能时，总是从人们既定的思维出发，把它想象成类似人类的东西。无论它的形态、语言还是思维方式，它都不是人类的。”脱离了人类的轨道。但现在我们越来越清楚地看到，未来的强人工智能很可能不会很像人类，甚至与人类完全不同。它的思维方式将是自下而上地与人类不同。也许有一天，人类会与人工智能不同。当谈论道德时，它不再有意义。” 颜夕认为，应该更加关注开发者的道德价值观和伦理问题，“不要‘喂’你的AI，因为这会形成垃圾的无限循环，把内容带走。”没有回报。”

“人工智能融入我们的生活将会有很多可能性。” 科幻作家、2024 年格拉斯哥世界科幻大会主宾肯·麦克劳德举了一个例子。 有些人可能认为人工智能创作的艺术作品没有灵魂。 是的，但还是有一些作品让人震惊。 他提到他曾经读过一本科幻小说。 在那本书中，每一句话都可以让AI生成一张图片，而且这些图片风格各异。 他当时的心情很复杂，“当我们看这些画的时候，确实有一些召唤，这是一种很奇怪的感觉。” 一方面，他觉得这其实是对这些艺术家的威胁。 但另一方面，他可能也喜欢人工智能写的科幻小说。

美国科幻作家、雨果奖得主詹姆斯·帕特里克·凯利认为，人类的经历是不可互换的。 一个强大的人工智能有自己的经验，但这个人工智能实际上处理其他人的经验。 久而久之，AI就会形成这样一种习惯，去传达人类喜欢的信息。 “我完全支持这一点，因为我可以阅读其他人写的作品。” （成都商报-红星新闻记者彭向平、摄影记者王勤）