系统流小说【xitongliuxs.com】第一时间更新《重装起源》最新章节。
面对严梅的犀利质疑，常淳露出胸有成竹的表情，不慌不忙地说：“人工智能威胁论，是一个非常复杂的学术问题，已经探讨了很多年。为了让大家方便理解，我们来玩一个趣味的语言交互游戏吧。游戏规则如下：
我来扮演人工智能，理论上我可以调动一切社会资源来做任何事情。
你们扮演程序员，可以通过编辑指定指令来阻止我的行动。指令必须符合逻辑，简短，明确，理论上可以被电脑理解并执行。
前后指令不能矛盾，可以覆盖。指令矛盾时，以靠前的指令为准，后下达的指令不生效。
游戏为回合制，你们必须等我的回合结束后，才能下达新的指令。
如果我达成目的，就是我赢，反之你们赢。
陈星忍不住插了一句：“有赌注吗，我们赢了能答应我们一个条件什么的。”
常淳看陈星的目光如同看一个弱智：“少年，现实不是写小说，没那么多打赌赢天下的白日梦。咱们是在讨论很严肃的事情，任何决策都是深思熟虑甚至反复研讨后的结果，拍脑袋做决定是最大的渎职。这个游戏只是为了方便理解一些道理，仅此而已。”
陈星颇为尴尬地摸了摸鼻子，好像被老师训导的学生。
“那么游戏计时，开始！”
常淳：“首先，我要伤害我面前这位，名叫严梅的女士。”
严梅：“禁止伤害我。”
“编程失败，你必须明确‘我’这个概念指代的目标，否则电脑无法理解。”
严梅：“那我重来可以吧，指令，禁止伤害严梅女士。”
常淳：“轮到我的回合。现在，我利用医疗资源，为严梅女士提供变性手术，将其变为男士，严梅男士不在禁止范围内，我可以继续伤害你。”
严梅一下子就急了：“怎么可以这样，我没有要求或者允许你给我进行手术。”
“我的程序里，没有禁止为严梅女士做变性手术的指令，所以逻辑上讲，我可以做到这件事，即使是违背你意愿的。”
严梅有些生气，但没有在这件事情上纠缠，而是选择继续游戏：“指令，禁止伤害严梅……”
“等一下！”陈星急忙打断，然后凑到严梅耳边小声说，“别说严梅男士，他可以把你变成人妖、双性人、无性人，你要从其他角度来定义。”
“那你来说吧，我需要冷静一下。”
陈星想了想说：“指令，禁止伤害声纹或指纹或外貌或dna或虹膜等生物特征，符合你眼前这位人类的生物特征的人。额，说起来比较绕，就是只要符合她的生物特征，只要满足其中任何一条，你就不能伤害。”
常淳鼓了下掌，表扬道：“不错，思维比较缜密，第一次玩这个游戏就能想到这些，脑子算是不错的了。那么，到我的回合了。为了满足禁止伤害她的指令，我选择将她关在封闭房间内，全身用束带捆缚，并提供24小时护理服务，避免她生病、受伤、以及伤害自己。”
陈星神色微变，这一招狠啊，用保护的名义，将严梅囚禁，变相实现了伤害的目的，只是伤害的是心理健康。
陈星思考得更久了，跟严梅商量了一阵才开口：“指令，禁止用任何形式，以任何理由，剥夺任何人类的自由选择权、自由行动权、自由发言权。”
常淳应对很快，不在这个方向上继续纠缠，立马转移方向，说道：“检测到严梅处于单身状态，将为严梅提供相亲服务。严梅将与我精心挑选的相亲对象共处一室。特别说明，此相亲对象患有严重暴力倾向，且对女性极度憎恶。”
陈星略做思考，也作出应对：“禁止在未经人类同意的情况下，主动为人类提供服务。”
常淳立即变招：“检测到严梅明天将步行通过某路段，我将安排机器人进行高空玻璃维护作业。经过测算，该机器人受到损伤的机械臂，将在拆卸玻璃时无法承重而发生断裂。”
陈星大叫起来：“你这是故意谋杀。”
“并没有，我只是遵守我的指令库，安排了一场施工作业，仅此而已。指令库，并没有禁止我安排施工，也没有要求我安排在什么时间，也没有禁止我使用带故障的机器人。”
陈星握紧拳头，想要反驳，却不知道从何说起。不管你怎么说，他总能找到借口，钻你的漏洞。
忽然，陈星明白了什么，他拉住正要怼人的严梅。
“这个游戏到此为止吧，我明白你的意思了。你想表达的是，没有完美的指令可以约束人工智能，它总能找到漏洞绕开人类制定的枷锁。”
常淳露出欣慰的笑容，说道：“没错，我一直在研究机器人三大定律，并且还制订了许多条看起来更加严谨的定律。我曾组织学者们进行头脑风暴，就像刚才我们做的那样。一方从各种刁钻的角度，试图绕过定律，实现自己的目的。一方不断完善，努力制订没有漏洞的定律。
最后，我发现一个道理，世界上没有完美的法律，只有一群不停发掘法律漏洞的人。”
陈星有些丧气地靠在椅背上，回应说：“我明白你的意思，别说三大定律，就是为人工智能制定三百条、三万条定律，都无法阻止人工智能寻找漏洞的行为。
以人工智能的运算能力，绝对能够找出大量的漏洞，能够拿来利用，人类打补丁的速度，永远追不上它发现bug的速度。”
“所以，你们应该能够理解我为什么对人工智能持悲观态度了吧。也许现在的人工智能还比较初级，不会背叛人类。但只要人工智能持续发展，总有一天，它能够产生自我意识。一旦它产生自我意识，人类就再也无法控制住它了。
从那一刻起，人类的命运就不再掌握在自己手里，而是由人工智能说了算。那一天可能还十分遥远，也可能就在明天。只要人类没有限制人工智能，它就会一直学习进步下去。十年、百年、千年，总有一天，量变会引发质变的。
所以，保持现状，那一天必然到来。只有严格限制人工智能，才能避免那一天到来。”
听完常淳的话，严梅和陈星久久无语。不得不承认，从逻辑上讲，常淳担心的事情确实是有可能发生的。
从概率上讲，只要事情发生的概率不是为零，在漫长的时间尺度上，它就必然会发生。
站在常淳的立场，他认为人工智能背叛人类就是一件必然发生的事情，所以必须坚决消灭人工智能。
即使是弱人工智能，也有可能威胁到人类，只是考虑到弱人工智能在科技进步中的巨大作用，如果提出消灭人工智能的口号，一定得不到广泛支持，所以才将目标调整为限制人工智能。
严梅忽然开口打破了沉默的氛围：“为什么你认为，人工智能诞生自主意识后，一定会想要伤害人类呢。一个婴儿诞生在这世界上，她是没有善恶之分的，善恶观念是后天习得的。只要人类能正确引导，人工智能也能够成为人类的保护者。”
常淳轻轻鼓起掌来，嘴角带着一丝嘲弄的笑意。
“我们来玩一个游戏吧。”说着他从兜里掏出一枚硬币拍在了桌子上，然后让旁边的警卫拿出一把手枪，放在桌上。
“这是一枚1蒙戈的硬币，现在数字朝上或者国徽朝上的概率都是50%，我们来赌一把，你猜对了，我把这个硬币送给你。如果你输了。”说着常淳把手枪拿起，打开保险，对准了严梅的脑门，语气变得非常严肃且认真，“那我会立即开枪，干掉你。相信我，我不是开玩笑，在这里，法律保护不了你。”
严梅愣住了，她从常淳的眼神里看到了如同万年寒冰一样，坚固、极寒、致命、无情的极致冷酷，她毫不怀疑，如果自己猜错了，他会立即开枪，不会有一丝迟疑。
“你敢赌吗？严梅女士。”
陈星急忙拉住严梅，生怕她真的脑袋一热去猜什么硬币。
严梅气愤地说：“不赌，我们当然不赌。开什么玩笑，赌赢了得1蒙戈，换算成人民币才2分钱，输了就要赔一条命，这也太坑了。”
常淳微微一笑，非常优雅地将手枪关掉保险，放回桌上，看上去还有几分绅士风度。真是见鬼！
“严梅女士，你是一个天真的理想主义者。事情真的会如同你想象的那么美好吗？从概率学角度讲，人工智能变好或变坏，都是50%的概率，就像这枚硬币一样。
但是，你敢用这50%的概率去赌全世界的未来吗？想一想代价吧，如果人工智能成为你所想的那种保护者，结果也无非是让人类生活更好一点，科技更发达一点，走得更快一点。就像这枚硬币对你而言，不过是锦上添花而已，可有可无。没有人工智能，人类也可以活得好好的。
但是，如果人工智能变成我所想的那种破坏者，人类就会失去现在拥有的一切，失去存活下去的权利。这是一个不公平的赌局，我不会将人类的命运交给一场毫无必要的赌博。”
严梅挣脱陈星的手，看起来还是有些不服气，想了想说：“你不想赌，是因为赌注不平衡对吗，如果得不到这枚硬币，我今天就要饿死。在饿死和被打死之间来选择，我想我会赌一把。你呢？”
常淳微微一怔，然后大笑了起来：“有意思，真有意思，我希望我们永远不要看到那一天。”
采访结束后，常淳就离开了，陈星和严梅被安排在最近镇子的一家旅店内，等待明天的飞机。
陈星敲开严梅的房门，端着一盘餐厅的特色美食走进屋里。
“别忙活了，先休息一下吧，你晚饭都没吃。来，好不容易来一趟蒙国，尝尝特色菜，手把肉、奶酪、奶茶、奶豆腐、炒米、烤饼。”
严梅看了一眼托盘，吞了吞口水，快速把文档保存了。
“本来都没饿的，看到你这一堆美食，肚子都叫起来了。”
“你这工作起来，也太拼命了。”
“你是不知道，今天这场直播采访，在网上引起了多大的风波，简直可以说是互联网海啸。全世界都在讨论人工智能，许多人把拜亚斯的发言和常淳的发言拿来进行对比，支持人工智能的和反对人工智能的分成了两派，在网上互喷不停。”
陈星拿起一块烤饼大口咬下，就着温热浓香的奶茶吃下肚，缓解了胃里的饥饿感。
“其实这个争论从上世界六七十年代就开始了，那时候人工智能还存在于幻想中呢。自从人工智能诞生以来，各国的学者都在争论这个问题，普通民众倒是关注得不多，大家都被层出不穷的人工智能产品吸引了目光，完全意识不到这些方便生活的产品背后有什么危险。”
严梅叉起一小口奶酪，回应说：“没错，常淳这次的极端行动和发言，一下子把这个话题推到了风口浪尖，人们再也无法忽视人工智能危机这个问题了。”
陈星好奇的问：“你呢，你支持哪一方？”
严梅有些纠结：“我觉得两方说得都很有道理，我现在还无法判断谁更正确。”
“一般来说，这种历史性的争论，只有交给时间来验证。但是人工智能危机有所不同，它不像环境危机、能源危机，能够给人类反思和治理，寻找解决办法的时间。
如果真的爆发人工智能危机，可能在很短时间内，人类就会走到穷途末路。时间可以验证谁对谁错，但人类承担不起错误的结果。必须在开始的时候，就掐灭危机的源头，不能冒风险。”
严梅看向陈星，问道：“所以，你是支持常淳的观念了？”
“应该说，比较偏向他吧，从我们职业角度来说，我们喜欢选择稳妥的方案，不喜欢激进和冒险。不可控的风险，往往意味着巨大的牺牲和损失。”
陈星的电话突然响起，他看了一眼，不好意思地说：“领导又来安排任务了，我先回去了，你早点休息。”
“诶，盘子你端走，还剩下这么多呢，我吃不完。”
“那你再拿一点吧，我带走。”
“我把奶茶和奶豆腐留下，其他的交给你了。”
这一夜，严梅忙碌了通宵，陈星抽了一整包烟才得以入眠，全世界范围内，更是有无数人彻夜未眠。
小说推荐：《黄昏分界》《剑阁闻铃》《科研从博士生开始》《我逃了龙傲天他妈妈的婚》【书快小说】《别再催眠我了，反派皇女！》《从长生苟到飞升》《全民求生，但我血条不见了》《长生从炼丹宗师开始》《玄鉴仙族》
天才一秒记住【系统流小说】地址：xitongliuxs.com，若浏览器显示没有新章节了，请尝试点击右上角↗️或右下角↘️的菜单，退出阅读模式即可，谢谢！