第十三章 语言游戏

面对严梅的犀利质疑，常淳露出胸有成竹的表情，不慌不忙地说：“人工智能威胁论，是一个非常复杂的学术问题，已经探讨了很多年。

为了让大家方便理解，我们来玩一个趣味的语言交互游戏吧。

游戏规则如下：

我来扮演人工智能，理论上我可以调动一切社会资源来做任何事情。

你们扮演程序员，可以通过编辑指定指令来阻止我的行动。

指令必须符合逻辑，简短，明确，理论上可以被电脑理解并执行。

前后指令不能矛盾，可以覆盖。

指令矛盾时，以靠前的指令为准，后下达的指令不生效。

游戏为回合制，你们必须等我的回合结束后，才能下达新的指令。

如果我达成目的，就是我赢，反之你们赢。

陈星忍不住插了一句：“有赌注吗，我们赢了能答应我们一个条件什么的。”

常淳看陈星的目光如同看一个弱智：“少年，现实不是写小说，没那么多打赌赢天下的白日梦。

咱们是在讨论很严肃的事情，任何决策都是深思熟虑甚至反复研讨后的结果，拍脑袋做决定是最大的渎职。

这个游戏只是为了方便理解一些道理，仅此而已。”

陈星颇为尴尬地摸了摸鼻子，好像被老师训导的学生。

“那么游戏计时，开始！”

常淳：“首先，我要伤害我面前这位，名叫严梅的女士。”

严梅：“禁止伤害我。”

“编程失败，你必须明确‘我’这个概念指代的目标，否则电脑无法理解。”

严梅：“那我重来可以吧，指令，禁止伤害严梅女士。”

常淳：“轮到我的回合。

现在，我利用医疗资源，为严梅女士提供变性手术，将其变为男士，严梅男士不在禁止范围内，我可以继续伤害你。”

严梅一下子就急了：“怎么可以这样，我没有要求或者允许你给我进行手术。”

“我的程序里，没有禁止为严梅女士做变性手术的指令，所以逻辑上讲，我可以做到这件事，即使是违背你意愿的。”

严梅有些生气，但没有在这件事情上纠缠，而是选择继续游戏：“指令，禁止伤害严梅……”

“等一下！”

陈星急忙打断，然后凑到严梅耳边小声说，“别说严梅男士，他可以把你变成人妖、双性人、无性人，你要从其他角度来定义。”

“那你来说吧，我需要冷静一下。”

陈星想了想说：“指令，禁止伤害声纹或指纹或外貌或dna或虹膜等生物特征，符合你眼前这位人类的生物特征的人。

额，说起来比较绕，就是只要符合她的生物特征，只要满足其中任何一条，你就不能伤害。”

常淳鼓了下掌，表扬道：“不错，思维比较缜密，第一次玩这个游戏就能想到这些，脑子算是不错的了。

那么，到我的回合了。

为了满足禁止伤害她的指令，我选择将她关在封闭房间内，全身用束带捆缚，并提供24小时护理服务，避免她生病、受伤、以及伤害自己。”

本章未完，点击下一页继续阅读