正在阅读:

当思维都变得“透明”,会失控吗?

扫一扫下载界面新闻APP

当思维都变得“透明”,会失控吗?

伦理道德是脑机接口在未来发展过程中必然会面对的挑战。

文|IT时报 潘少颖

编辑|王昕 孙妍

一个四肢瘫痪了多年的七旬老人,竟然可以神奇地通过意念自己吃东西了,比如喝水、吃油条等。

这并不是科幻,早在2021年,上述场景就已成为现实,这位老人在浙江大学医学院附属第二医院完成了中国首例人体大脑“智能脑机手术”之后,犹如重获新生。在业界看来,这标志着我国脑机接口技术在应用层面以及难治性癫痫诊治领域取得突破。

不仅在我国,全世界范围内都有类似的例子,人类通过脑机技术,让藏在大脑深处的意念变成了看得见的现实。在动物身上进行的大量实验,也让它们发生了神奇的变化,比如猴子可以通过意念打游戏。

犹如《三体》中的三体人拥有发达的科技,他们的思维是透明的,所有的思考过程通过脑电波的交流展现出来。

脑机接口这种前沿技术,正在改变人类对人脑和计算机的理解,实现了人脑与机器之间的直接“对话”。随着AI的飞速发展,人机交互越来越重要,可以预判的是,未来脑机接口将成为人们跟AI打交道不可或缺的神经通信技术。

资本市场也看好脑机接口前景,近些年,相关投资金额和投资笔数不断增多,在资本孵化下相关初创公司如雨后春笋般涌现。

有人希望以此造就“超人”,更多的人则希望能够解决实际问题——让盲人复明、让瘫痪在床的患者重新走路、让阿尔茨海默症患者找回曾经的记忆……但也有人持有怀疑态度:脑机接口会不会让别人控制自己的大脑?

就在上周,联合国教科文组织发出警告,目前包括大脑植入或扫描(脑机接口)在内的神经技术正经历“飞速发展”,可能会导致人工智能操控人类大脑,且该技术与AI的结合对“精神隐私”构成了威胁。“算法将使我们能够解码人们的心理过程,并直接操纵他们的意图、情感和决策背后的大脑机制。”该机构一位工作人员这样认为。

此外,联合国教科文组织也曾在一次会议上表示,正在着手制定一个全球范围的“道德框架”,去应对神经技术带来的人伦问题。

伦理道德是脑机接口在未来发展过程中必然会面对的挑战。在一个脑机接口系统中,无论这些外部设备如何对人脑和人机之间进行管理和调控,谁有权控制自己的大脑是一个核心问题。此外,个人是否有权选择是否接受这种控制也是需要考虑的问题。

不仅如此,脑机接口需要收集大量的个人数据,利用软硬件设备直接采集和分析人脑的生物电信号,具备采集各种仅存储在大脑内部的隐私信息的能力,如健康状况、信仰和心理特征等,使用户的思想无法掩饰地完全暴露在机器面前,几乎成为“透明人”。如果这些数据落入不法分子或恶意组织的手中,他们可能会利用这些信息进行欺诈、滥用或追踪。

随着脑机接口的迅速发展以及应用场景的增多,可能会导致滥用,例如用于控制他人的意志或操纵他们的行为,并造成意想不到的后果。

“一种未来可能出现的情况是,未来获取了脑机接口技术的人,可能比没有获得脑机接口技术的人,控制机器的能力更强,这样会拉大人与人之间的差距。”清华大学长聘教授高小榕这样认为,人类不应该因脑机接口技术的使用而影响社会公平性,所以必须规范相关技术的应用。

这就需要制定相应的法律和政策来防止可能出现的后果,直面脑机接口所面临的伦理道德问题,确立明确的法律框架来保护个人隐私和数据安全,并确保伦理标准得到遵守。越来越多的组织和专家意识到了这个问题,今年5月,脑机接口产业联盟科普与科技伦理工作组主席、首都医科大学附属北京天坛医院神经外科主任医师何江弘发布了《脑机接口伦理原则和治理建议书》,这是中国第一部面向脑机接口领域的伦理原则和治理建议书。建议书中,提出了脑机接口研发要遵守“尊重、不伤害、有利、公正”等生命伦理学四大原则。

任何技术都有向善的一面,也有危险的一面。脑机接口是个硬核科技,未来能够带来什么,不得而知。因此,更加需要对这些技术进行伦理评估和监管,建立独立的审查机构来评估和研究脑机接口技术的安全性和道德性。

我们的目的,无非是让脑机接口既服务于人类,又要受到人类严格的监管。脑机接口一定不能失控,这其中有一条重要的界限,就是在人不同意的情况下,不能让它操控我们的大脑。

本文为转载内容,授权事宜请联系原著作权人。

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

当思维都变得“透明”,会失控吗?

伦理道德是脑机接口在未来发展过程中必然会面对的挑战。

文|IT时报 潘少颖

编辑|王昕 孙妍

一个四肢瘫痪了多年的七旬老人,竟然可以神奇地通过意念自己吃东西了,比如喝水、吃油条等。

这并不是科幻,早在2021年,上述场景就已成为现实,这位老人在浙江大学医学院附属第二医院完成了中国首例人体大脑“智能脑机手术”之后,犹如重获新生。在业界看来,这标志着我国脑机接口技术在应用层面以及难治性癫痫诊治领域取得突破。

不仅在我国,全世界范围内都有类似的例子,人类通过脑机技术,让藏在大脑深处的意念变成了看得见的现实。在动物身上进行的大量实验,也让它们发生了神奇的变化,比如猴子可以通过意念打游戏。

犹如《三体》中的三体人拥有发达的科技,他们的思维是透明的,所有的思考过程通过脑电波的交流展现出来。

脑机接口这种前沿技术,正在改变人类对人脑和计算机的理解,实现了人脑与机器之间的直接“对话”。随着AI的飞速发展,人机交互越来越重要,可以预判的是,未来脑机接口将成为人们跟AI打交道不可或缺的神经通信技术。

资本市场也看好脑机接口前景,近些年,相关投资金额和投资笔数不断增多,在资本孵化下相关初创公司如雨后春笋般涌现。

有人希望以此造就“超人”,更多的人则希望能够解决实际问题——让盲人复明、让瘫痪在床的患者重新走路、让阿尔茨海默症患者找回曾经的记忆……但也有人持有怀疑态度:脑机接口会不会让别人控制自己的大脑?

就在上周,联合国教科文组织发出警告,目前包括大脑植入或扫描(脑机接口)在内的神经技术正经历“飞速发展”,可能会导致人工智能操控人类大脑,且该技术与AI的结合对“精神隐私”构成了威胁。“算法将使我们能够解码人们的心理过程,并直接操纵他们的意图、情感和决策背后的大脑机制。”该机构一位工作人员这样认为。

此外,联合国教科文组织也曾在一次会议上表示,正在着手制定一个全球范围的“道德框架”,去应对神经技术带来的人伦问题。

伦理道德是脑机接口在未来发展过程中必然会面对的挑战。在一个脑机接口系统中,无论这些外部设备如何对人脑和人机之间进行管理和调控,谁有权控制自己的大脑是一个核心问题。此外,个人是否有权选择是否接受这种控制也是需要考虑的问题。

不仅如此,脑机接口需要收集大量的个人数据,利用软硬件设备直接采集和分析人脑的生物电信号,具备采集各种仅存储在大脑内部的隐私信息的能力,如健康状况、信仰和心理特征等,使用户的思想无法掩饰地完全暴露在机器面前,几乎成为“透明人”。如果这些数据落入不法分子或恶意组织的手中,他们可能会利用这些信息进行欺诈、滥用或追踪。

随着脑机接口的迅速发展以及应用场景的增多,可能会导致滥用,例如用于控制他人的意志或操纵他们的行为,并造成意想不到的后果。

“一种未来可能出现的情况是,未来获取了脑机接口技术的人,可能比没有获得脑机接口技术的人,控制机器的能力更强,这样会拉大人与人之间的差距。”清华大学长聘教授高小榕这样认为,人类不应该因脑机接口技术的使用而影响社会公平性,所以必须规范相关技术的应用。

这就需要制定相应的法律和政策来防止可能出现的后果,直面脑机接口所面临的伦理道德问题,确立明确的法律框架来保护个人隐私和数据安全,并确保伦理标准得到遵守。越来越多的组织和专家意识到了这个问题,今年5月,脑机接口产业联盟科普与科技伦理工作组主席、首都医科大学附属北京天坛医院神经外科主任医师何江弘发布了《脑机接口伦理原则和治理建议书》,这是中国第一部面向脑机接口领域的伦理原则和治理建议书。建议书中,提出了脑机接口研发要遵守“尊重、不伤害、有利、公正”等生命伦理学四大原则。

任何技术都有向善的一面,也有危险的一面。脑机接口是个硬核科技,未来能够带来什么,不得而知。因此,更加需要对这些技术进行伦理评估和监管,建立独立的审查机构来评估和研究脑机接口技术的安全性和道德性。

我们的目的,无非是让脑机接口既服务于人类,又要受到人类严格的监管。脑机接口一定不能失控,这其中有一条重要的界限,就是在人不同意的情况下,不能让它操控我们的大脑。

本文为转载内容,授权事宜请联系原著作权人。