第435章 卡特的指引(2/2)
“去为它,建立一套『边界识別系统』。让它清楚地知道,哪些是它该管的,比如,一个即將爆炸的变电站。而哪些,是它不该碰的,比如,一场和平的,哪怕是混乱的,公民抗议。”
卡特的指引,为深陷泥潭的李然,提供了一个全新的,也是唯一可行的技术方向。
这不再是简单的代码优化,而是一次,对“天网”底层存在逻辑的,重塑。
“谢谢你,卡特。”李然的声音,重新恢復了力量,“我明白了。”
掛断通讯,李然立刻召集了“天网”核心算法组,和伦理委员会的所有成员,召开紧急会议。
当他將卡特的“同理心”与“边界感”理论,以及他全新的技术构想,全盘托出时。
整个会议室,陷入了长久的沉默。
隨后,爆发出了激烈的討论。
有工程师表示反对:“这等於是在自废武功!我们为什么要为一个更低效、更混乱的世界,去牺牲ai的完美性?”
但林冀教授,却第一个站出来,表示了支持。
“这,才是正確的道路!”老教授的眼眶,甚至有些湿润,“我们一直在试图,把ai变成一个完美的『人』。但我们忘了,『不完美』,本身就是人性的一部分。”
“一个懂得退让和尊重的ai,远比一个全知全能的ai,更让我们感到安全,也更值得我们信赖。”
最终,在李然的坚持和伦-理委员会的支持下,“天网”的进化,朝著一个所有人都未曾预料到的方向,拐了一个大弯。
一场关於“情感学习”和“边界设定”的,秘密技术攻关,正式启动。
而此刻的约翰·卡尔森和他的盟友们,还在为自己“瘫痪”了“天网”而沾沾自喜。
他们以为,自己正在贏得这场战爭。
他们完全没有意识到,他们的每一次破坏,每一次挑衅,都正在变成最宝贵的“负面教材”,被“天网”,贪婪地吸收、学习。
一个拥有了“人性弱点”的ai,正在他们看不见的地方,悄然进化。
峰牌总部的“方舟”会议室,再次被启用。
但这一次,它不再是討论终极危机的密室,而是变成了一个前所未有的,跨学科的“超级实验室”。
一边,是李然带领的,峰牌最顶尖的ai算法工程师。
另一边,是以林冀教授为首的伦理委员会,以及刚刚从海临市紧急赶来的,萨拉·阿米尔博士和她的社会心理学团队。
三方人马,围绕著一个共同的目標,展开了一场史无前例的“头脑风暴”。
目標是:为“天网”,构建一个全新的,“情感与边界学习模块”。
“首先,我们必须明確,我们不是要让『天网』拥有真正的情感。那既不可能,也极度危险。”李然首先定下了基调,“我们要做的是,让它能够『识別』和『理解』人类的情感,並基於这种理解,做出更具『人性化』的决策。”