正在阅读:

虚拟与现实,人工智能时代的伦理真相

扫一扫下载界面新闻APP

虚拟与现实,人工智能时代的伦理真相

脑机接口的研究不断突破让我们看到了未来机械人的可能,人类的大脑运作效率将大幅提高,甚至实现更高层次上的集体协作。届时,人类还是世界的主导吗?生存的真相是什么?

文|陈根

近年来,在大数据、算法和计算机能力三大要素的共同驱动下,人工智能进入高速发展阶段。从智能推荐到语音助手,从人脸识别到健康跟踪,不得不承认,我们时下所感知到的世界正在朝曾经想象的科幻里加速实现。

人工智能赋能的实体经济,为生产和生活带来革命性的转变,据中国电子学会预测,2022全球人工智能市场将达到1630亿元,2018-2022年CAGR达31%。

在人工智能大势所趋的背景下,人工智能面对的监管挑战和伦理困境就成了一个全球性难题。普京曾经指出:“人工智能是未来,但也有难以预测的威胁。无论谁成为这个领域的领导者,都将会成为这个领域的统治者。”

从人工智能借助神经网络“一键脱衣”显示出裸体,到两性机器人不断出世,性爱机器人商业化运用,人工智能的发展也加剧了社会的焦虑,除了对未来伦理的担忧,对未来社会巨变未知的恐惧,人工智能真正撼动人类的是对人类生存的全新挑战。

人类作为一个种族在数字时代之下面临是在我们创造的信息总量以几何级数进行累积的同时,人类的精神存在及其演化方式已远远超过原先肉体所能承载的负荷,在这种情境之下,我们又该如何延续自身的适应能力、在自己所编织的这个全新世界上存活下去?

机器人技术的高度发达使人类从体力劳动中解脱,脑机接口的研究不断突破让我们看到了未来机械人的可能,人类的大脑运作效率将大幅提高,甚至实现更高层次上的集体协作。届时,人类还是世界的主导吗?生存的真相是什么?

技术的狂想首先来自人和人性

不论是弱人工智能还是强人工智能,这些科技的背后,潜伏的还是“脑”这个灵魂的实体形象,而技术狂想的首先一定是来自人和人性。

脑是人类最为独特的器官,若是把人的肾脏和猪腰子搁在一起,大概大部分人都无法从形态上对其加以区分,但换成人脑和猪脑花,几乎谁都不会认错。

虽然人类的脑看起来就像一大块雕成核桃仁造型的豆腐,但人脑的本质,却是一个由神经元(neuron)构成的网络,人工智能领域的“神经网络”正是模仿了人类的大脑构建。按照数量级,科学界一般认为,人脑有 1000 亿个神经元。假如 1 个神经元是 1 秒钟的单位,人脑的神经元则需要 3100 年。

每一个神经元向四面八方投射出大量神经纤维,而处于中心的胞体,则接受纤维传来的任何。这些神经纤维中,负责接收并传入信息的“树突(dendrite)”占了大多数,而负责输出信息的“轴突(axon)”则只有一条(但可分叉)。当树突接受到大于兴奋阈值的信息后,整个神经元就将如同灯泡点亮一般爆发出一个短促但极为明显的“动作电位(action potential)”,这个电位会在近乎瞬间就沿着细胞膜传遍整个神经元——包括远离胞体的神经纤维末端。

之后,上一个神经元的轴突和下一个神经元的树突之间名为“突触(synapse)”的末端结构会被电信号激活,“神经递质(neurotransmitter)”随即被突触前膜释放,用以在两个神经元间传递信息,并且能依种类不同,对下一个神经元起到或兴奋或抑制的不同作用。

神经元组成了人脑的基本结构,负责处理大部分思维活动的大脑、负责协调运动的小脑以及连接其中的脑干。

脑干则将大脑、小脑与脊髓连接起来,大脑与躯体间几乎所有的神经投射都要通过这里;此外,脑干本身还调控着呼吸、体温和吞咽等最重要生命活动,甚至大脑的意识活动也需要由它的“网状激活系统(reticular activating system, RAS)”来维持。因此,脑干可以说人体最致命的要害,没有之一;而一旦损毁,就是字面意义上的“秒杀”。

而大脑的结构更加复杂,我们所看到的皱巴巴表面,就是迅速扩张后折叠蜷曲的大脑皮层,不同部分的皮层有着不同的功能划分。而在皮层之下,还有丘脑、杏仁核、纹状体、苍白球等等名称古怪的神经核团。现代科学认为,人的大脑皮层最为发达,是思维的器官,主导机体内一切活动过程,并调节机体与周围环境的平衡,所以大脑皮层是高级神经活动的物质基础。事实上,我们现在的大脑已经经过了数百万年的演化,而更早之前的人类大脑并非如此。

人类思想的逻辑质问“我是谁”

在乍得沙赫人于700万年前行走于非洲时,它颅腔内的大脑和其他动物没什么本质区别。几百万年后,当奥杜瓦伊峡谷的能人笨拙地敲打出可能最早的一批石器时,他们那比黑猩猩强不了多少的大脑也并没展现出过于惊人的智力。

之后的进化之路上,人科物种一直在不断强化自己使用工具和制造工具的能力,大脑也在稳步发展,但似乎一直缺少点什么,因而被埋没于自然界宏伟的基因库之中。直到20万年前,现代智人的大脑出现了飞跃性的发展,对直接生存意义不大的联络皮层,尤其是额叶出现了剧烈的暴涨,随之带来的就是高昂的能耗(人脑只占体重的约2%,但能耗却占了20%)以及痛苦的分娩。但付出这些代价换来的结果,使得大脑第一次有了如此之多的神经元来对各种信息进行深度的抽象加工和整理储存。

陈述性记忆(declarative memory)和语言出现了。人类具备了从具体客观事物中总结、提取抽象化一般性概念的能力,并能通过语言将其进行精确的描述、交流甚至学习。甚至,借助语言带来的思维方式转变,人类获得了“想象”的能力。

正如著名科幻作家伊藤计划在《杀戮器官》中所言,语言的本质,就是大脑中的一个器官。但就是因为这个脑结构的出现,人类的发展速度立刻呈现了爆发性的增长,人类也从偏安东非一隅的裸猿成为了扩散到全世界的超级生态入侵物种。

之后,建立在语言基础上的“想象共同体”出现了,人类的社会行为随之超越了灵长类本能的部落层面,一路向着更庞大、更复杂的趋势发展。随着文字的发明,最早的文明与城邦诞生在了西亚的两河流域。

而另一项独特的能力,工作记忆(working memory)则让人类具备了制定计划并将其分步执行的能力,这对于人类的发展有着不可估量的意义。精神分裂症患者在这项的评分上显著低于正常人,可能就是其认知行为错乱的原因之一。而在这些抽象认知能力之上,人脑还出现了一种极为罕见的能力——“自我认知”。

正如古巴比伦神庙石基上刻着的苏格拉底的那句隽永万世的名言“认识你自己”一样,自我意识对于一般性的决策任务来说并非必需品,甚至也并不一定和智力完全挂钩。但就是这种能力,让人类意识到了自己的“存在”,并开始思考三个问题:我是谁?我从哪里来?我将要到哪里去?而这三个问题,贯穿了人类数千年的哲学思考。

毫无疑问,无论科技或者人工智能怎么发展,都逃不过人类思想界底层又核心的逻辑质问,而这,正是我们在面对人工智能高速发展而产生焦虑的根源所在。

生存的真相

当然,时下的人工智能只是帮助我们更有效率的生活,并不会造成《西部世界》机器人和人的对抗,也根本无法动摇整个工业信息社会的结构基础。

如果以物种的角度看,人类从敲打石器开始,就已经把“机器”纳入为自身的一部分。作为一个整体的人类,早在原始部落时代就已经有了协助人们的机械工具,从冷兵器到热兵器作战,事实上,人们对技术的追求从未停止。

只是,在现代科学的加持下的科技拥有曾经人类想不到的惊人力量,而我们在接受并适应这些惊人力量的同时,我们究竟变成了什么?人和机器到底哪个才是社会的主人?这些问题虽然从笛卡尔时代起就被很多思想家考虑过,但现代科技的快速更迭,却用一种更有冲击力的方式将这些问题直接抛给了普罗大众。

但现实中,人对人的控制可以说无处不在,从原始时代的巫术和大棒、封建时代的宗法和血统再到工业时代的契约与工资乃至信息社会的舆论和福利,我们早已发明了太多控制同类的手段,只是相比之下,科幻作品里的“机器人控制世界”显得更现代。

难以否认,我们内心深处,在渴望控制他人的同时,也都有着担心被他人控制的恐惧。我们都想认为,哪怕自己身不由己,至少内心依然享有某种形而上的无限自由。但现代神经科学却将这种幻想无情地打碎了,我们依然是受制于自身神经结构的凡人,思维也依然受到先天的限制,就好像黑猩猩根本无法理解高等数学一样,我们的思维同样是有限并且脆弱的。

但我们不同于猿猴的是,在自我意识和抽象思维能力的共同作用下,一种被称为“理性”的独特思维方式诞生了,所以才有了人类追问的更多问题,但我们也不是神,因为深植于内心的动物本能作为早已跟不上社会发展的自然进化产物,却能对我们的思维产生最根本的影响,甚至在学会了控制本能之后,整个神经系统的基本结构也依然让我们无法如神一般全知全能。

纵观整个文明史,从泥板上的汉谟拉比法典到超级计算机中的人工智能,正是理性一直在尽一切努力去超越人体的束缚。因此,“生产力”和“生产关系”的冲突,也就是人最根本的异化,而最终极的异化,并非是指人类越来越离不开机器,而是这个由机器运作的世界越来越适合机器本身生存,而归根结底,这样一个机器的世界却又是由人类自己亲手创造的。

从某种意义上,当我们与机器的联系越来越紧密,我们把道路的记忆交给了导航,把知识的记忆交给了芯片,甚至两性机器人的出现能帮我们解决生理的需求和精神的需求,于是在看似不断前进的、更为便捷高效的生活方式背后,身为人类的独特性也在机械的辅助下实现了不可逆转的“退化”。我们能够借助科技所做的事情越多,也就意味着在失去科技之后所能做的事情越少。

尽管这种威胁看似远在天边,但真正可怕的正是对这一点的忽略,人工智能的出现诚然让我们得以完成诸多从前无法想象的工作,人类的生存状况也显然获得了改变,但当这种改变从外部转向内部、进而撼动人类在个体层面的存在方式时,留待我们思考的,或许就不再是如何去改变这个世界,而是如何去接纳一个逐渐机械化的世界了。

人类个体的机械化,正是与通过创作人形机器人实现造人梦想全然相反的进程,然而两者的目标却是相同的:超越自然的束缚,规避死亡的宿命,实现人类的“下一次进化”。但机械化与信息化这两者本是一体两面的存在,我们所追求的属于“未来”的信息化,其根基本来自属于“过去”的机械化,前者只有依托于后者才可能存在。

二者都在某种意义上剥夺着人类足以定义自己的个性特征,因为不论机械化还是信息化,本身都是对自然存在的背离;唯一的不同之处在于,人类在恐惧着植入机械将自己物化的同时,也在向往着通过融入信息流来实现自己的不朽,却在根本上忘记了物化与不朽本就是一枚硬币的两面,而生命本身的珍贵,或许正在于它的速朽。在拒绝死亡的同时,我们同时也拒绝了生命的价值;在拥抱信息化改造、实现肉体进化的同时,人类的独特性也随着生物属性的剥离。

人工智能已经踏上了发展的加速车,在人工智能应用越来越广的时下,我们还将面对与机器联系越发紧密的以后,而亟待进化的,将是在崭新的语境下,我们人类关于自身对世间万物的认知。

本文为转载内容,授权事宜请联系原著作权人。

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

虚拟与现实,人工智能时代的伦理真相

脑机接口的研究不断突破让我们看到了未来机械人的可能,人类的大脑运作效率将大幅提高,甚至实现更高层次上的集体协作。届时,人类还是世界的主导吗?生存的真相是什么?

文|陈根

近年来,在大数据、算法和计算机能力三大要素的共同驱动下,人工智能进入高速发展阶段。从智能推荐到语音助手,从人脸识别到健康跟踪,不得不承认,我们时下所感知到的世界正在朝曾经想象的科幻里加速实现。

人工智能赋能的实体经济,为生产和生活带来革命性的转变,据中国电子学会预测,2022全球人工智能市场将达到1630亿元,2018-2022年CAGR达31%。

在人工智能大势所趋的背景下,人工智能面对的监管挑战和伦理困境就成了一个全球性难题。普京曾经指出:“人工智能是未来,但也有难以预测的威胁。无论谁成为这个领域的领导者,都将会成为这个领域的统治者。”

从人工智能借助神经网络“一键脱衣”显示出裸体,到两性机器人不断出世,性爱机器人商业化运用,人工智能的发展也加剧了社会的焦虑,除了对未来伦理的担忧,对未来社会巨变未知的恐惧,人工智能真正撼动人类的是对人类生存的全新挑战。

人类作为一个种族在数字时代之下面临是在我们创造的信息总量以几何级数进行累积的同时,人类的精神存在及其演化方式已远远超过原先肉体所能承载的负荷,在这种情境之下,我们又该如何延续自身的适应能力、在自己所编织的这个全新世界上存活下去?

机器人技术的高度发达使人类从体力劳动中解脱,脑机接口的研究不断突破让我们看到了未来机械人的可能,人类的大脑运作效率将大幅提高,甚至实现更高层次上的集体协作。届时,人类还是世界的主导吗?生存的真相是什么?

技术的狂想首先来自人和人性

不论是弱人工智能还是强人工智能,这些科技的背后,潜伏的还是“脑”这个灵魂的实体形象,而技术狂想的首先一定是来自人和人性。

脑是人类最为独特的器官,若是把人的肾脏和猪腰子搁在一起,大概大部分人都无法从形态上对其加以区分,但换成人脑和猪脑花,几乎谁都不会认错。

虽然人类的脑看起来就像一大块雕成核桃仁造型的豆腐,但人脑的本质,却是一个由神经元(neuron)构成的网络,人工智能领域的“神经网络”正是模仿了人类的大脑构建。按照数量级,科学界一般认为,人脑有 1000 亿个神经元。假如 1 个神经元是 1 秒钟的单位,人脑的神经元则需要 3100 年。

每一个神经元向四面八方投射出大量神经纤维,而处于中心的胞体,则接受纤维传来的任何。这些神经纤维中,负责接收并传入信息的“树突(dendrite)”占了大多数,而负责输出信息的“轴突(axon)”则只有一条(但可分叉)。当树突接受到大于兴奋阈值的信息后,整个神经元就将如同灯泡点亮一般爆发出一个短促但极为明显的“动作电位(action potential)”,这个电位会在近乎瞬间就沿着细胞膜传遍整个神经元——包括远离胞体的神经纤维末端。

之后,上一个神经元的轴突和下一个神经元的树突之间名为“突触(synapse)”的末端结构会被电信号激活,“神经递质(neurotransmitter)”随即被突触前膜释放,用以在两个神经元间传递信息,并且能依种类不同,对下一个神经元起到或兴奋或抑制的不同作用。

神经元组成了人脑的基本结构,负责处理大部分思维活动的大脑、负责协调运动的小脑以及连接其中的脑干。

脑干则将大脑、小脑与脊髓连接起来,大脑与躯体间几乎所有的神经投射都要通过这里;此外,脑干本身还调控着呼吸、体温和吞咽等最重要生命活动,甚至大脑的意识活动也需要由它的“网状激活系统(reticular activating system, RAS)”来维持。因此,脑干可以说人体最致命的要害,没有之一;而一旦损毁,就是字面意义上的“秒杀”。

而大脑的结构更加复杂,我们所看到的皱巴巴表面,就是迅速扩张后折叠蜷曲的大脑皮层,不同部分的皮层有着不同的功能划分。而在皮层之下,还有丘脑、杏仁核、纹状体、苍白球等等名称古怪的神经核团。现代科学认为,人的大脑皮层最为发达,是思维的器官,主导机体内一切活动过程,并调节机体与周围环境的平衡,所以大脑皮层是高级神经活动的物质基础。事实上,我们现在的大脑已经经过了数百万年的演化,而更早之前的人类大脑并非如此。

人类思想的逻辑质问“我是谁”

在乍得沙赫人于700万年前行走于非洲时,它颅腔内的大脑和其他动物没什么本质区别。几百万年后,当奥杜瓦伊峡谷的能人笨拙地敲打出可能最早的一批石器时,他们那比黑猩猩强不了多少的大脑也并没展现出过于惊人的智力。

之后的进化之路上,人科物种一直在不断强化自己使用工具和制造工具的能力,大脑也在稳步发展,但似乎一直缺少点什么,因而被埋没于自然界宏伟的基因库之中。直到20万年前,现代智人的大脑出现了飞跃性的发展,对直接生存意义不大的联络皮层,尤其是额叶出现了剧烈的暴涨,随之带来的就是高昂的能耗(人脑只占体重的约2%,但能耗却占了20%)以及痛苦的分娩。但付出这些代价换来的结果,使得大脑第一次有了如此之多的神经元来对各种信息进行深度的抽象加工和整理储存。

陈述性记忆(declarative memory)和语言出现了。人类具备了从具体客观事物中总结、提取抽象化一般性概念的能力,并能通过语言将其进行精确的描述、交流甚至学习。甚至,借助语言带来的思维方式转变,人类获得了“想象”的能力。

正如著名科幻作家伊藤计划在《杀戮器官》中所言,语言的本质,就是大脑中的一个器官。但就是因为这个脑结构的出现,人类的发展速度立刻呈现了爆发性的增长,人类也从偏安东非一隅的裸猿成为了扩散到全世界的超级生态入侵物种。

之后,建立在语言基础上的“想象共同体”出现了,人类的社会行为随之超越了灵长类本能的部落层面,一路向着更庞大、更复杂的趋势发展。随着文字的发明,最早的文明与城邦诞生在了西亚的两河流域。

而另一项独特的能力,工作记忆(working memory)则让人类具备了制定计划并将其分步执行的能力,这对于人类的发展有着不可估量的意义。精神分裂症患者在这项的评分上显著低于正常人,可能就是其认知行为错乱的原因之一。而在这些抽象认知能力之上,人脑还出现了一种极为罕见的能力——“自我认知”。

正如古巴比伦神庙石基上刻着的苏格拉底的那句隽永万世的名言“认识你自己”一样,自我意识对于一般性的决策任务来说并非必需品,甚至也并不一定和智力完全挂钩。但就是这种能力,让人类意识到了自己的“存在”,并开始思考三个问题:我是谁?我从哪里来?我将要到哪里去?而这三个问题,贯穿了人类数千年的哲学思考。

毫无疑问,无论科技或者人工智能怎么发展,都逃不过人类思想界底层又核心的逻辑质问,而这,正是我们在面对人工智能高速发展而产生焦虑的根源所在。

生存的真相

当然,时下的人工智能只是帮助我们更有效率的生活,并不会造成《西部世界》机器人和人的对抗,也根本无法动摇整个工业信息社会的结构基础。

如果以物种的角度看,人类从敲打石器开始,就已经把“机器”纳入为自身的一部分。作为一个整体的人类,早在原始部落时代就已经有了协助人们的机械工具,从冷兵器到热兵器作战,事实上,人们对技术的追求从未停止。

只是,在现代科学的加持下的科技拥有曾经人类想不到的惊人力量,而我们在接受并适应这些惊人力量的同时,我们究竟变成了什么?人和机器到底哪个才是社会的主人?这些问题虽然从笛卡尔时代起就被很多思想家考虑过,但现代科技的快速更迭,却用一种更有冲击力的方式将这些问题直接抛给了普罗大众。

但现实中,人对人的控制可以说无处不在,从原始时代的巫术和大棒、封建时代的宗法和血统再到工业时代的契约与工资乃至信息社会的舆论和福利,我们早已发明了太多控制同类的手段,只是相比之下,科幻作品里的“机器人控制世界”显得更现代。

难以否认,我们内心深处,在渴望控制他人的同时,也都有着担心被他人控制的恐惧。我们都想认为,哪怕自己身不由己,至少内心依然享有某种形而上的无限自由。但现代神经科学却将这种幻想无情地打碎了,我们依然是受制于自身神经结构的凡人,思维也依然受到先天的限制,就好像黑猩猩根本无法理解高等数学一样,我们的思维同样是有限并且脆弱的。

但我们不同于猿猴的是,在自我意识和抽象思维能力的共同作用下,一种被称为“理性”的独特思维方式诞生了,所以才有了人类追问的更多问题,但我们也不是神,因为深植于内心的动物本能作为早已跟不上社会发展的自然进化产物,却能对我们的思维产生最根本的影响,甚至在学会了控制本能之后,整个神经系统的基本结构也依然让我们无法如神一般全知全能。

纵观整个文明史,从泥板上的汉谟拉比法典到超级计算机中的人工智能,正是理性一直在尽一切努力去超越人体的束缚。因此,“生产力”和“生产关系”的冲突,也就是人最根本的异化,而最终极的异化,并非是指人类越来越离不开机器,而是这个由机器运作的世界越来越适合机器本身生存,而归根结底,这样一个机器的世界却又是由人类自己亲手创造的。

从某种意义上,当我们与机器的联系越来越紧密,我们把道路的记忆交给了导航,把知识的记忆交给了芯片,甚至两性机器人的出现能帮我们解决生理的需求和精神的需求,于是在看似不断前进的、更为便捷高效的生活方式背后,身为人类的独特性也在机械的辅助下实现了不可逆转的“退化”。我们能够借助科技所做的事情越多,也就意味着在失去科技之后所能做的事情越少。

尽管这种威胁看似远在天边,但真正可怕的正是对这一点的忽略,人工智能的出现诚然让我们得以完成诸多从前无法想象的工作,人类的生存状况也显然获得了改变,但当这种改变从外部转向内部、进而撼动人类在个体层面的存在方式时,留待我们思考的,或许就不再是如何去改变这个世界,而是如何去接纳一个逐渐机械化的世界了。

人类个体的机械化,正是与通过创作人形机器人实现造人梦想全然相反的进程,然而两者的目标却是相同的:超越自然的束缚,规避死亡的宿命,实现人类的“下一次进化”。但机械化与信息化这两者本是一体两面的存在,我们所追求的属于“未来”的信息化,其根基本来自属于“过去”的机械化,前者只有依托于后者才可能存在。

二者都在某种意义上剥夺着人类足以定义自己的个性特征,因为不论机械化还是信息化,本身都是对自然存在的背离;唯一的不同之处在于,人类在恐惧着植入机械将自己物化的同时,也在向往着通过融入信息流来实现自己的不朽,却在根本上忘记了物化与不朽本就是一枚硬币的两面,而生命本身的珍贵,或许正在于它的速朽。在拒绝死亡的同时,我们同时也拒绝了生命的价值;在拥抱信息化改造、实现肉体进化的同时,人类的独特性也随着生物属性的剥离。

人工智能已经踏上了发展的加速车,在人工智能应用越来越广的时下,我们还将面对与机器联系越发紧密的以后,而亟待进化的,将是在崭新的语境下,我们人类关于自身对世间万物的认知。

本文为转载内容,授权事宜请联系原著作权人。