陆远等了几秒，继续说道：
“智脑有一个核心指令。这是我们从第一行代码写起就定死的——任何情况下，人类的决策权高于AI。智脑可以提建议，可以给方案，甚至可以推翻自己的方案，但最终的决策键，必须由人类的手指按下去。”
有代表站了起来。
是美利坚代表，那个曾在太平洋上与华夏对峙的前海军上将。
他的嘴唇动了一下，似乎想说什么，最终没有说出口。
陆远看向他，继续说道：
“联合理事会提议制定一份关于AI伦理的公约，我完全同意。我提议，这份公约应当包括三条核心原则。”
他举起一根手指：
“第一，禁止任何国家、任何组织、任何个人，开发具备独立自我意识的人工智能。智能可以很高，但不能产生‘我是谁’这个意识。自我意识是自由的基石，也是危险的起点。”
“第二，禁止对任何可能存在智慧生命或潜在智慧生命的星球实施殖民。宇宙很大，太阳系只是其中一粒沙。如果我们在火星上发现了哪怕一个细菌，那个细菌的演化方向，也应当由它自己决定。”
“第三，所有应用于军事领域的人工智能系统，必须保留不可移除的人工终止开关。这个开关的最终控制权，归属联合国防务理事会五人常任理事国一致决议。任何单边行动，将被视为对人类命运共同体的背叛。”
他放下手，声音恢复到正常的讲话音量：
“我是商人，不是政客。我讲不出漂亮的辞藻。我只能告诉各位——我们刚从一场星际战争中活下来。我们赢得惊险，赢得惨烈，赢得幸运。下一次，如果没有下一次的话，我们必须确保，敌人不是我们自己创造出来的。”
大屏幕上，先觉者小女孩的笑脸渐渐淡去，取而代之的是一行大字：
《星际文明AI伦理公约（草案）》
陆远向后退了一步，对着全场微微欠身：“谢谢。”
大会堂里沉默了三秒。
然后，又有人站了起来。
还是那个美利坚代表，老海军上将。
他双手缓慢而坚定地开始鼓掌。
掌声瞬间蔓延到整个会场。
法兰西代
本章未完，请点击下一页继续阅读！