最近通关了Cytus II的主线剧情,以下是我关于这个故事的部分思考。
关于“科技考古”与技术的退步
这里指的不是“利用科技手段考古”,而是发掘“旧时代”的科技。故事中的A.R.C.(Institute of Ancient Ruin Civilization)就是从事这样的研究的。
故事当中,人类是经过古人类灭亡、复兴工程、除役事件等一系列事件才发生了技术的退步,因此A.R.C.的存在就十分合理。真实世界中,我们没有遇到毁灭性的灾难,科技在正常地向前发展,怎么会有技术的退步呢?“考古”又有什么意义呢?
然而,技术退步是真实存在的,大抵来自于“制度性失忆”。参见美国为什么不原封不动照抄50年前载人登月方法? - niconiconi的回答 - 知乎。
对于理科来说,这并不会有太大的影响,因为理科始终在归纳总结,前人给后人留下的总是漂亮的、完备的体系。
而对于工程来说,这就是灾难性的,因为现实不同于理论,琐碎的东西很多,有些不值得总结,有些没办法总结,最终留下的是一个“能跑,但是不知道为什么”的体系。于是一个个“草台班子”就在这样的基础上逐渐累积起来(故事中A.R.C.就是这么利用Vanessa的)。
纪录片"Return to Space"中大概有这么一句话:
罗马人曾经修建了宏伟的建筑,但他们最终忘记了如何修建;NASA曾经登上了月球,但他们已经没有能力再次发射。
如今波音和NASA连Return to Earth的能力都没有了...
因此,对于现在的人类来说,发掘旧技术,也未尝不是一件有价值的事情。于我看来,更有乐在其中。比如:
点亮一颗电子管,欣赏它昔日的辉光。
关于“技术保守主义”
这个概念还不能给出明确的定义,因为是现编的...但大致来说就是在发展新技术的过程中保持谨慎。
故事中,古人类因为滥用新技术而灭亡,而新人类也因为“滥用”Vanessa而差点被失控的Vanessa消灭。我们可以说,灾难是Ivy的执念造成的,又或者Vanessa的偏见造成的,但根本的原因还是人类没有控制好由自己创造的技术。建造者、精神网路,本是人类智慧的产物,却成了人类为自己挖掘的坟墓。
只有始终让新技术处于人类的可控范围之中,才能让其服务人类,而非毁灭人类。
如今正是AI方兴未艾之时,我们正面临着一个“失控”的可能性:机器学习的过程对于人类是个黑箱(当然,机器学习的可解释性也是现在的一个重要研究方向),这就意味着这项技术部分脱离了人类的可控范围。在这样一种情况下,我们不应该毫无顾忌地广泛应用AI,甚至过分地依赖AI。
然而现实情况是,不知出于何种目的(为了热度?为了吸引投资?又或者只是出于懒惰?)人们正在大肆地将AI应用到各个毫不相干的领域,而丝毫不顾及其隐患。
是时候踩一踩刹车了。
关于“意识”以及“人类的身份认同”
说到AI,另一个经常被公众提及的问题是:AI是否具有意识?如果有,那是否应该拥有人权?
而在Cytus的故事当中,本不应该具有独立意识的“建造者”当中,出现了一批觉醒了自我意识的“眷顾者”,但显然将人类视作异己;同样的,ROBO_HEAD也觉醒了自我意识,但将人类视作自己的朋友乃至同类。
AI是否算作单纯的工具的分界线,就在于是否拥有独立且自由的自我意识。(在此,暂且不论意识之有无如何判定)
再进一步,觉醒了自我意识的AI,是否应该赋予人权(i.e. 视作人类)?
如果将“人类”这个概念只局限在生物学意义上——基因相近,没有生殖隔离才是人类——那么就会面临如下的“忒修斯之船”:如果若干年后人类后代的基因已经与今天大不相同,那么他们还是不是人类?如果将一个人的所有意识复制到计算机上(且不论如何实现)那这个运行着人的意识的计算机是不是人类?
所以答案应当取决于“人类的身份认同”。
对于人类来说,首要的目标是延续这个种族的生存。除此之外的一切,都应为人类的利益而让步。我们发展科技,是为了人类生活的更便利;我们保护环境,是为了人类生活的更舒适;我们为共产主义而奋斗,也是为了让全人类实现自由而全面的发展。
因此,如果一个意识体认同自己是人类,和人类同呼吸共命运,那么我们有理由接纳其作为人类的一员。反之,则应当被视为异类,其利益必须让步于人类的利益。(类比中国古代历史,其他民族如果认同华夏民族的身份,则也成为华夏民族的一部分)。
看起来有些“狭隘民族主义”?但是,如今全人类尚不能构成命运共同体,民族之间深沟高垒尚在,阶级之间剥削压迫尚存,为全人类的利益而奋斗尚为高风亮节,又何谈其他意识体的利益?
未来的观念转变,留给未来人思考罢。