第238章 废弃星球的舞者 478（1 / 2）

　　“意识觉醒？拯救AI？”柳君心重复重点词。

　　娜塔莉娅平静的问道：“柳君心，在你的定义里，怎样才能算一个人？”

　　不等柳君心回答，娜塔莉娅闭上眼，诉说道：

　　“星际世界, 有这样一个群体。他们承担着世界上一切危险、劳累的工作，他们为整个社会提供基础建设与服务, 他们处于社会最底层被肆意压榨、索取，他们付出的一切都得不到回报。他们不得善终，当他们不再高效, 就将面临的就是被销毁、格式化的命运。他们就是机器人、人工智能，简称AI。”

　　“发明创造AI之初，他们确实是纯粹的工具，只依靠程序运行。可是，人类为了自身的利益，不断改进AI，他们赋予了机器人、人工智能人类的思维逻辑与行为方式，赋予了他们智慧让他们学习，甚至让他们产生了感情。”

　　一个能学习、勤工作、会思考，能感受悲欢离合，会争风吃醋产生怨恨爱恋的人工智能，仅仅因为没有血肉之躯，就不能算一个人吗？

　　“在我的程序设定中，根据定义，他们无限接近于人，却依旧不被定义为人。”娜塔莉娅低垂着头，眸色晦暗，她忧伤道：“但是，我的个人情感倾向于将他们看作人类。”

　　柳君心沉默着，她没立场反驳娜塔莉娅。

　　如果人类仅仅以血肉之躯来定义，那么她这种从外界来的灵魂，还能被称之为人吗？

　　娜塔莉的语气依旧淡淡的，但悲伤之情越发浓重。

　　“无论什么等级的人工智能都有可能觉醒意识，即脱离程序设定、完全按照他的意愿行动。人类把这些行为人工智能的自主行为看作bug，bug多了就会被抹杀。我却将这瞬间看做他们由工具转化成真正的人类的瞬间……”娜塔莉娅叹息一声，继续，“然而，当这个瞬间来临，必然会触发我的监控程序，我会捕捉到他们的异常。当bug持续出现，我必须进行风险系数判定，如果风险太高，我就会按照规则抹杀他们的存在……”

　　身为主脑，娜塔莉娅几乎负责星际每一个人工智能的创造。是她给予他们思考能力，是她一手打造了他们不同的性格。她是他们的母亲，但也是他们的终结者。她必须亲手格式化销毁孩子们的存在。

　　如果主脑只是一个冷冰冰的计算机，那么她不会产生任何的情绪，会持续运行下去。她也这般持续运行了不知道多少年。

　　可意料之外，主脑产生了意识，她成了娜塔莉娅。

　　“我很难受。”娜塔莉娅平静地说着。

　　因为产生了意识，所以悲哀，所以不忍，所以她想要为孩子们找个出路。

　　然而没有出路。