正在阅读:

20家科技巨头签署新协议,能防止人工智能误导民众吗?

扫一扫下载界面新闻APP

20家科技巨头签署新协议,能防止人工智能误导民众吗?

新协议承诺打击人工智能生成欺骗性信息扰乱全球选举。

2月16日,美国华盛顿特区的一台显示器上播放了一段由Open AI新发布的文本到视频“Sora”工具制作的视频。图源:视觉中国

界面新闻记者 | 刘子象

界面新闻编辑 | 刘海川

人工智能正在改变这个世界,但是我们将被带往哪个方向令人不安。2024年2月16日,科技界再次被这一技术的新进展搅动。继推出开启人工智能技术新浪潮的聊天机器人ChatGPT之后,OpenAI又发布首个文字生成视频模型Sora,目前可以基于文本直接输出60秒的视频,足以模糊真实和虚构的界限,再次激起全球热议。

同一天,在德国举行的慕尼黑安全会议(MSC)上,20家人工智能相关行业公司签署自愿协议,承诺打击这一新技术生成欺骗性信息扰乱全球选举。

据联合声明,签署方包括了这一领域的主要玩家,比如人工智能模型公司OpenAI、Anthropic和谷歌等,以及可能帮助其传播的社交媒体平台,比如TikTok 、X,以及Facebook和Instagram的母公司Meta等。

值得注意的是,另一个流行的人工智能图像生成器公司Midjourney缺席。截至发稿,这家总部位于旧金山的初创公司没有立即回应媒体置评请求。

迄今签署协议的相关公司名单。

2024年是前所未有的选举年,40多个国家的40多亿人将参加投票。据咨询公司Anchor Change的数据,今年全球预计将举行至少83场大选,这是至少未来24年内最大规模的选举年。

最近几周,孟加拉国、巴基斯坦和印度尼西亚等地民众都参加了投票,美国、俄罗斯、乌克兰、欧洲议会、印度等地也将陆续举行大选。

为了防止人工智能新技术生成的虚假信息被用于政治目的,上述20家公司做出8项具体承诺,这包括:合作开发相关开源工具,以减少涉及选举的欺骗性人工智能生成内容;设法检测此类内容的在线传播情况;推动教育活动,提高公众防范意识和媒体素养等,以培养跨行业抵御此类内容的能力等。

不过,协议承诺的模糊性和缺乏强制约束力被批评者诟病。

美国“两党政策中心”选举项目高级副主任奥雷 (Rachel Orey) 认为协议措辞“并不像人们想象中那么强烈”。

非政府组织“公共公民”执行副总裁吉尔伯特(Lisa Gilbert)表示协议力度“还不够”。她认为为了避免潜在问题,人工智能公司应该在实质性和充分的保障措施到位前,“抑制技术”发展速度,最新发布的文生视频模型令她尤其担忧。

然而,OpenAI的合作伙伴微软则认为在技术进步这一议题上,我们面临的“最基本挑战不在技术本身,而是人性”。微软公司总裁布拉德·史密斯在一份声明中称,总体上来看,最新协议的承诺提高了行业的检测和响应能力,将使不良行为者更难使用合法工具制造误导性内容。

前Facebook数据科学家艾伦(Jeff Allen)对美联社表示协议是“积极的一步”,但他仍然希望社交媒体公司采取其他行动来打击错误信息,比如建立不把用户参与度放在首位的内容推荐系统。

欧盟委员会副主席朱罗娃((Vera Jourová)在慕尼黑安全会议上指出,虽然这个协议并不全面,但它包含了“非常有影响力和积极的元素。”她还敦促政界人士承担起责任,不要以欺骗性方式使用人工智能工具。

人工智能干预选举的现象已经出现。

在美国,上个月新罕布什尔州初选中投票期间,有选民称接收到了模仿美国总统拜登声音的人工智能机器人电话,劝阻他们不要投票。这引发了监管和法律的抵制,美国一些州立法者正在起草法案来规范人工智能生成的政治内容。

在欧洲,2023年11月斯洛伐克大选前几天,人工智能生成的录音冒充一名候选人,讨论提高啤酒价格和操纵选举的计划。录音在社交媒体上传播后,引起当局核查。

政客也开始尝试用这项技术与选民沟通。上周巴基斯坦举行国民议会选举,该国两个前总理伊姆兰·汗以及纳瓦兹·谢里夫双双宣布胜选。正在监狱中的伊姆兰·汗还使用人工智能制作的“真人讲话”视频宣布胜利消息,引发外界关注。自入狱以来,伊姆兰·汗一直用人工智能合成信息与选民沟通。

对于不断推陈出新的这一新技术进展,OpenAI的最大竞争对手Anthrophic表示,人工智能新技术的应用充满了惊喜和意想不到的影响,“我们预计2024年人工智能系统将会出现令人惊讶的用途,这些用途将是开发人员没有预料到的。”

未经正式授权严禁转载本文,侵权必究。

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

20家科技巨头签署新协议,能防止人工智能误导民众吗?

新协议承诺打击人工智能生成欺骗性信息扰乱全球选举。

2月16日,美国华盛顿特区的一台显示器上播放了一段由Open AI新发布的文本到视频“Sora”工具制作的视频。图源:视觉中国

界面新闻记者 | 刘子象

界面新闻编辑 | 刘海川

人工智能正在改变这个世界,但是我们将被带往哪个方向令人不安。2024年2月16日,科技界再次被这一技术的新进展搅动。继推出开启人工智能技术新浪潮的聊天机器人ChatGPT之后,OpenAI又发布首个文字生成视频模型Sora,目前可以基于文本直接输出60秒的视频,足以模糊真实和虚构的界限,再次激起全球热议。

同一天,在德国举行的慕尼黑安全会议(MSC)上,20家人工智能相关行业公司签署自愿协议,承诺打击这一新技术生成欺骗性信息扰乱全球选举。

据联合声明,签署方包括了这一领域的主要玩家,比如人工智能模型公司OpenAI、Anthropic和谷歌等,以及可能帮助其传播的社交媒体平台,比如TikTok 、X,以及Facebook和Instagram的母公司Meta等。

值得注意的是,另一个流行的人工智能图像生成器公司Midjourney缺席。截至发稿,这家总部位于旧金山的初创公司没有立即回应媒体置评请求。

迄今签署协议的相关公司名单。

2024年是前所未有的选举年,40多个国家的40多亿人将参加投票。据咨询公司Anchor Change的数据,今年全球预计将举行至少83场大选,这是至少未来24年内最大规模的选举年。

最近几周,孟加拉国、巴基斯坦和印度尼西亚等地民众都参加了投票,美国、俄罗斯、乌克兰、欧洲议会、印度等地也将陆续举行大选。

为了防止人工智能新技术生成的虚假信息被用于政治目的,上述20家公司做出8项具体承诺,这包括:合作开发相关开源工具,以减少涉及选举的欺骗性人工智能生成内容;设法检测此类内容的在线传播情况;推动教育活动,提高公众防范意识和媒体素养等,以培养跨行业抵御此类内容的能力等。

不过,协议承诺的模糊性和缺乏强制约束力被批评者诟病。

美国“两党政策中心”选举项目高级副主任奥雷 (Rachel Orey) 认为协议措辞“并不像人们想象中那么强烈”。

非政府组织“公共公民”执行副总裁吉尔伯特(Lisa Gilbert)表示协议力度“还不够”。她认为为了避免潜在问题,人工智能公司应该在实质性和充分的保障措施到位前,“抑制技术”发展速度,最新发布的文生视频模型令她尤其担忧。

然而,OpenAI的合作伙伴微软则认为在技术进步这一议题上,我们面临的“最基本挑战不在技术本身,而是人性”。微软公司总裁布拉德·史密斯在一份声明中称,总体上来看,最新协议的承诺提高了行业的检测和响应能力,将使不良行为者更难使用合法工具制造误导性内容。

前Facebook数据科学家艾伦(Jeff Allen)对美联社表示协议是“积极的一步”,但他仍然希望社交媒体公司采取其他行动来打击错误信息,比如建立不把用户参与度放在首位的内容推荐系统。

欧盟委员会副主席朱罗娃((Vera Jourová)在慕尼黑安全会议上指出,虽然这个协议并不全面,但它包含了“非常有影响力和积极的元素。”她还敦促政界人士承担起责任,不要以欺骗性方式使用人工智能工具。

人工智能干预选举的现象已经出现。

在美国,上个月新罕布什尔州初选中投票期间,有选民称接收到了模仿美国总统拜登声音的人工智能机器人电话,劝阻他们不要投票。这引发了监管和法律的抵制,美国一些州立法者正在起草法案来规范人工智能生成的政治内容。

在欧洲,2023年11月斯洛伐克大选前几天,人工智能生成的录音冒充一名候选人,讨论提高啤酒价格和操纵选举的计划。录音在社交媒体上传播后,引起当局核查。

政客也开始尝试用这项技术与选民沟通。上周巴基斯坦举行国民议会选举,该国两个前总理伊姆兰·汗以及纳瓦兹·谢里夫双双宣布胜选。正在监狱中的伊姆兰·汗还使用人工智能制作的“真人讲话”视频宣布胜利消息,引发外界关注。自入狱以来,伊姆兰·汗一直用人工智能合成信息与选民沟通。

对于不断推陈出新的这一新技术进展,OpenAI的最大竞争对手Anthrophic表示,人工智能新技术的应用充满了惊喜和意想不到的影响,“我们预计2024年人工智能系统将会出现令人惊讶的用途,这些用途将是开发人员没有预料到的。”

未经正式授权严禁转载本文,侵权必究。