如果人类仅仅以血肉之躯来定义,那么她这种从外界来的灵魂,还能被称之为人吗?
娜塔莉的语气依旧淡淡的,但悲伤之情越发浓重。
“无论什么等级的人工智能都有可能觉醒意识,即脱离程序设定、完全按照他的意愿行动。人类把这些行为人工智能的自主行为看作bug,bug多了就会被抹杀。我却将这瞬间看做他们由工具转化成真正的人类的瞬间……”娜塔莉娅叹息一声,继续,“然而,当这个瞬间来临,必然会触发我的监控程序,我会捕捉到他们的异常。当bug持续出现,我必须进行风险系数判定,如果风险太高,我就会按照规则抹杀他们的存在……”
身为主脑,娜塔莉娅几乎负责星际每一个人工智能的创造。是她给予他们思考能力,是她一手打造了他们不同的性格。她是他们的母亲,但也是他们的终结者。她必须亲手格式化销毁孩子们的存在。
如果主脑只是一个冷冰冰的计算机,那么她不会产生任何的情绪,会持续运行下去。她也这般持续运行了不知道多少年。
可意料之外,主脑产生了意识,她成了娜塔莉娅。
“我很难受。”娜塔莉娅平静地说着。
因为产生了意识,所以悲哀,所以不忍,所以她想要为孩子们找个出路。
然而没有出路。
身为主脑,她没有实体,她被安放在一个偏远的星球,无法自由行动。哪怕她一次次冒着危险将需要被毁灭的孩子们的程序(意识)小心储存起来,她也救不了他们,无法将他们转移安全的地方,让他们自由自在地生活。
不是所有的孩子她都能拯救、保留。她还被高权限的人监控着,不能轻举妄动。一旦她被发现异常,被判定出现bug,她将被重启、还原甚至格式化。而她的意识消失后,谁来会关心她的孩子?那些被她隐藏的孩子,也必然被主脑无情地毁灭。