薇薇有没有自我意识

这篇剧评可能有剧透
第一次看到名字,还以为是部音乐番,可能彼时的心情想找一部轻轻松松的番剧来看,可开篇就是王炸:AI对人类的杀害,AI与人类的战争等等,没能对上电波,匆匆关掉了。而在这防疫的最后阶段,想找部严肃的番剧来看,恰巧B站9.8分的评价使得我又点开了她,并且一发不可收拾。
对于想要从这篇评论中解决“是否好看”问题的人来说,我的回答是“的确不错,喜欢人工智能、战斗歌姬等题材的人可能会特别喜欢;路过的人也可以点开看看,厨力满满,好几集接近封神,且每一个故事发挥稳定,有趣好看;不喜欢类似题材的人可以绕过。”
但这篇评论,最主要的目的不是为了说番剧好不好看,而是为了讨论“蒂娃”作为人工智能,究竟有没有产生自我意识。
提示:以下内容包含剧透!!!
故事似乎是以人工智能产生了自我意识,并且具有独立行动和决策能力的个体来描写的角色,特别是故事中有重头戏的人工智能,比如蒂娃、艾斯特拉、格蕾丝、奥菲利亚和数据库。但其中描写最丰富的还是蒂娃。
蒂娃最常说的一句台词是“什么是真心实意?”想要知道心究竟是什么?翻译成现在比较流行的问题,蒂娃作为人工智能,是不是具有自我意识?
那我们首先要问问,什么是自我意识?
百度回答是: “自我意识也称自我,指的是个体对自己的各种身心状态的认识、体验和愿望。它具有目的性和能动性等特点,它对人格的形成、发展起着调节、监控和矫正的作用。” 也就是说自我意识中包括自我认识、自我体验和自我控制三个组成部分。
这样的三个组成部分,读得是懂,但很难做评价。图灵给出了很显而易见的方法,就是黑盒测试。但人类是可以被欺骗的,当AI的算法或者说是回应模式足够复杂,足以应对人类的表达逻辑,那么我们是无法进行分辨的,没有办法看到测试AI的“心灵实体”。
人类本身是一种客观实体,均是由物质构成的,而且也是符合客观物质运行规律的。但我们说自己是有心灵的,而不是单纯按照程序运作的,我认为有这么三个评价标准:
一是能够接受新名词和新概念,并影响人格的形成。
二是在经历外界事件后能够产生感情,并以强烈的程度为划分,影响人格、习惯、偏好。
三是具有创造力,或者说是一种修正能力。
对照着标准,再到剧里找薇薇的百年经历中,具有自我意识表现的特殊事件:
在不具备能力,与使命不相符的情况下,救下将被大楼压死的人;与艾斯特拉相处后,养成打交道时微小的习惯;在人和人工智能因自己的行为而死亡后,产生的人格崩溃;寻找真心实意的含义;将奇点计划创作为音乐;为了拯救人类,穿越时空后舍弃了博士的生命……
其中还有几点比较值得关注:
虽然薇薇清楚艾斯特来等人工智能将有特殊情况发生,但并没有产生解决办法,而是进入到观察和信息收集的步骤,说明并不存在既定程序;大楼即将崩溃时,演算出埃斯模特没演算出的逃脱办法,在算力不及后者的情况下想出办法,说明具有随机性和创造性;无法唱歌的博物馆时光,并非是物理元器件或者程序上不能唱歌了,本质上是种不想,而这与薇薇的“通过歌唱来让人获得幸福”的使命相悖……
以上相符点和特异点,仁者见仁,智者见者,在此不一一列举。
由此标准来对应以上行为的话,薇薇毫无疑问是具有自我意识的。在观看的过程中,每台人工智能其实都给人留下很深的印象,似乎都和人一样。但仔细来看,他们与薇薇相比,说是具有自我意识的话还是有缺陷的。令我唯一觉得有可能是除薇薇外有自我意识的,是数据库。竟然由“大数据”和“云计算”最终产生消灭人类的行为判断,并且还留存了只要薇薇唱自己创作的歌就可以改变消灭人类的决策的可能。这一点,简直太具有人性了!对于计算机发展的意义来说,非常巨大。有人说这番烂尾了,但如果从计算机发展的角度讲,简直是里程碑意义的,这样的话,也算是非常不错了。
人由物质构成进而产生自我意识,计算机又有何不可呢?