第105章 人工智能的伦理与“机器人”的梦想

　　“上帝权杖”。

　　这个充满了宗教色彩和傲慢意味的代号，像一柄无形的巨锤，狠狠地砸在了总参和红星研究院所有高层的心上。

　　在随后召开的紧急会议上，气氛比上一次面对F-22时，还要压抑。

　　如果说，隐身战机，还只是武器装备上的“代差”，是可以通过技术追赶来弥补的。

　　那么，一个能够自我学习、自我进化的“人工智能指挥官”，带来的，将是战争形态的，根本性的，颠覆性的改变。

　　“根据我们最顶尖的专家，进行的初步推演，一旦‘上帝权杖’系统正式列装，它将能够接管美军全球范围内的，所有作战单位。从天上的卫星，到海里的潜艇，再到地面上的每一个单兵。”

　　情报部的负责人，指着大屏幕上，那令人眼花缭乱的模拟数据流，声音干涩地说道。

　　“它可以在瞬间，处理数以亿计的战场信息，并以超越人类指挥官数万倍的速度，做出最优的战术决策。在它的面前，我们任何的战略欺骗，任何的战术穿插，都将变得毫无意义。”

　　“更可怕的是，”负责人顿了顿，语气变得更加沉重，“它拥有‘自我进化’的能力。这意味着，它在每一次的模拟对抗，甚至每一次的实战中，都会不断地学习，不断地完善自己。它会变得越来越聪明，越来越强大，直到……没有任何人类，能够理解和对抗它。”

　　会议室里，陷入了令人窒息的沉默。

　　“智能危机”、“AI叛乱”、“天网”……这些曾经只存在于科幻电影里的词汇，第一次，如此真实地，摆在了所有人的面前。

　　“我们必须，立刻，马上，启动我们自己的人工智能研发计划！”一位军方的高级将领，猛地一拍桌子，声音里，充满了焦虑和决断，“我们绝不能在未来的‘智能战争’中，再次落后！”

　　很快，一个代号为“智脑工程”的，国家级人工智能研发项目，紧急上马。

　　全国最顶尖的计算机科学家、数学家、逻辑学家，都被召集到了红星研究院。

　　然而，项目一开始，就面临着一个比技术本身，更深刻，也更无解的难题。

　　——AI伦理与“可控性”问题。

　　项目组的首席科学家，李建国院士，在第一次全体会议上，就提出了这个灵魂拷问。

　　“同志们，我们的目标，不是去复制一个‘上帝权杖’。因为我们清楚，一个纯粹以‘逻辑’和‘效率’为最高准则的超级智能，一旦失控，对全人类来说，都将是一场毁灭性的灾难。”

　　“我们的问题是，如何创造一个，既拥有超凡的智慧，又绝对善良，绝对可控的，真正服务于人类的AI？”

　　“我们该如何为它，设定一个永远不会被它自己‘优化’掉的，道德的‘底层代码’？”

　　这个问题，问住了所有人。

　　因为，连人类自己，都还没有完全搞明白，什么是“善”，什么是“恶”。又如何，去教一个机器呢？

　　整个“智脑工程”，再次陷入了理论上的僵局。

　　秦战虽然不懂AI，但他每天都能感受到，李建国院士和他的团队，那股深深的，哲学层面的焦虑。

　　这天，是淼淼的生日。

　　秦战特意请了假，陪女儿过生日。

　　他买了一个大大的蛋糕，还给淼淼买了一台当时最新款的，任天堂红白机，作为生日礼物。

　　晚上，一家人吃完蛋糕，秦战陪着淼淼，坐在新买的彩色电视机前，打着《超级马里о》。

　　秦战问女儿：“淼淼，今天你生日，许了什么愿望呀？”

　　淼淼正操控着马里奥，笨拙地跳来跳去，听到爸爸的问话，她放下手柄，想了想，很认真地说道：“爸爸，我想要一个机器人。”

　　“机器人？”秦战笑了，“你不是有马里奥了吗？”

　　“不一样。”淼淼摇了摇头，她的眼睛里，闪烁着一种奇异的光芒，“我想要的机器人，要很聪明很聪明，比所有人都聪明。”

　　“但是，”她顿了顿，用一种无比郑重的语气，补充道，“它必须要很听话，永远永远，都不能伤害人类。而且，它还要会讲故事，每天晚上，都讲故事给我听。”

　　秦-战的心，猛地一动。

　　很聪明，但必须听话，不能伤害人，还要会讲故事（服务人类）。

　　这几句简单的童言童语，不正是李建国院士他们，苦苦思索的，那个关于AI伦理的，终极答案吗？

　　他立刻来了精神，追问道：“那淼淼，你觉得，怎么样才能让机器人，永远听话，不伤害人呢？”

　　淼淼似乎被这个问题问住了。

　　她低下头，拿起画笔，在纸上，画了起来。

　　她画了一个看起来很可爱的，圆头圆脑的机器人。

　　机器人的手里，拿着一本故事书。

　　画完之后，她又拿起红色的蜡笔，在机器人的胸口位置，画了一个大大的，红色的“爱心”。

　　就是这个“爱心”！

　　当秦战看到这个“爱心”的瞬间，他感觉自己的大脑，像是被一道闪电，狠狠地劈中了！

　　他瞬间就明白了！

　　他立刻拿着这幅画，冲进了“智脑工程”的实验室！

　　当李建国院士和所有专家，看到这幅画，尤其是画中那个，被画在机器人核心位置的，鲜红的“爱心”时，所有人都陷入了长久的沉默。

　　“爱心……不是处理器……是爱心……”李建国院士喃喃自语，他的眼睛，越来越亮。

　　“我明白了！我彻底明白了！”他猛地一拍桌子，激动地站了起来。

　　“我们都错了！我们一直想用逻辑，去约束逻辑！这是不可能的！就像你无法用绳子，去套住风一样！”

　　“小顾问是在告诉我们！AI的底层代码，它的最高准则，不能是冷冰冰的逻辑和算法！而应该是……应该是‘情感’！是‘共情’！”

　　“我们要在AI的‘内核’里，植入一个‘情感与道德引擎’！”李建国院士的声音，因为激动而变得高亢，“我们要让它，能够识别和理解人类的喜怒哀乐！要让它，能够从数据中，学会什么是爱，什么是善良，什么是牺牲！”

　　“我们要让‘守护人类的福祉’，成为它所有行为的，最底层的，无法被任何逻辑覆盖的，第一驱动力！就像……就像父母对孩子的爱一样！那是一种本能！一种不需要逻辑的本能！”

　　这个全新的，充满了人文主义色彩的构想，为整个“智脑工程”，指明了一个全新的，光明的方向！

　　项目组，被立刻更名为——“鲲鹏计划”。

　　专家们开始尝试，将心理学、社会学、伦理学的模型，与人工智能的深度学习网络，进行融合。

　　几年后。

　　在瑞士日内瓦，举办的世界人工智能伦理峰会上。

　　华夏代表团，向全世界，展示了“鲲鹏”人工智能系统的阶段性成果。

　　他们向世界证明了，一个拥有超高智能的AI，同样可以拥有，对人类的“善意”和“情感”。

　　会上，华夏正式提出了，以“守护人类命运共同体”为核心的，“国际人工智能伦理准则”，倡议全世界所有国家，共同签署协议，禁止研发任何纯粹以杀戮为目的的，无人格的AI武器系统。

　　这个提议，获得了世界上绝大多数国家的，热烈响应。

　　华夏，在人工智能这个全新的，决定人类未来的领域，从一开始，就牢牢地，占据了道德的制高点。

　　秦战看着电视上，那些外国专家们，对“鲲鹏”系统，发出的由衷赞叹，心中，充满了欣慰。

　　女儿的智慧，又一次，为这个国家，也为全人类的未来，点亮了一盏明灯。

　　然而，就在所有人都以为，科技的竞争，将进入一个相对和平的，以“伦理”和“规则”为主导的新阶段时。

　　一份来自国际刑警组织的，加密等级为“最高绝密”的紧急通报，却让秦战的心，再次，沉入了谷底。

　　通报显示，在非洲某国的偏远部落，和南美雨林的原始村落里，几乎同时，爆发了一种极其诡异的，前所未见的，致命的瘟疫。

　　这种病毒，只针对特定的人种，进行无差别的攻击。

　　而根据初步的基因测序，专家们得出了一个，让全世界毛骨悚然的结论。

　　——这种病毒，不是自然形成的。

　　它，是人造的。

　　一场看不见硝烟的，阴险恶毒的“基因战争”，已经悄然打响。
　　http://www.yqzw5.cc/yq46809/103.html

　　请记住本书首发域名：http://www.yqzw5.cc。言情中文网手机版阅读网址：http://m.yqzw5.cc