正在阅读:

社交机器人为何成为推特卖身马斯克的绊脚石?

扫一扫下载界面新闻APP

社交机器人为何成为推特卖身马斯克的绊脚石?

推特上存在大量的虚假账户再次引发了社交机器人的争议。

文|猫头鹰科技 李东耳

有马斯克的地方永远不缺热闹看,高价收购推特(TWTR.NYSE)一事一波三折:

2022年5月13日,马斯克表示暂时搁置收购推特的交易,以等待确认推特上的“虚假账户”是否小于5%,随后又表示搁置只是暂时的,马斯克仍致力于收购推特。

据了解,在推特最新的财报会议上,推特方面曾表示其虚假账户的数量不到5%。然而,马斯克认为推特上的虚假账户等占比或不低于20%。

不过,马斯克确认“虚假账号”的方式却给他带来了一些小麻烦:

一方面,Meta(FB.NASDAQ)联合创始人达斯汀·莫斯科维茨的指出:“马斯克的方法不是随机的,使用的样本太少,存在巨大的错误空间”;

另一方面,马斯克在推特上发文称,推特发布部门向其表示,马斯克泄露了样本量违反了保密协议。

推特上存在大量的虚假账户再次引发了社交机器人的争议。

推特上的虚假用户浮出水面

伴随着马斯克高价收购推特引发舆论关注,这让推特上面的虚假用户情况浮出水面:

在推特2022财年第一财季财报中,推特方面表示存在因“错误原因”导致此前1年披露的mDAU数据比实际数值高出140万-190万,约占总mDAU的1%。

据了解,mDAU是指可变现活跃用户,主要反映的是推特的广告价值,自2019年起,推特的财报中就用mDAU代替用户数量进行披露。然而推特方面表示,自2019年起,推特的mDAU数据就因一项此前未发现的“错误”而被夸大。

事实上,推特也一直在通过自己的方式解决这些虚假账户,并在以往的财报中多次提及随着用户数量的增长,垃圾信息与虚假账户对推特可能造成的不利影响。

2018年6月,推特曾为清理垃圾信息和这类账户而专门收购了一家网络安全公司Smyte,利用算法识别不当信息和相关账号。

此举令推特的月活受到影响,据推特2018财年第三财季报,该财季推特月活同比降约400万,环比降约900万,时任美国总统的特朗普曾抱怨自己的账号因此损失了30万粉丝。

不过,当时的推特已经面临用户数量增长乏力,月活难以增长,日活相对较少的局面,一味地寻追求户增长已经无意义,提高真实用户的日活更有利于推特的发展,这也是推特收购Smyte消灭虚假账户,用mDAU代替用户数量的原因。

但是,推特虽然已经取得了一定的结果,但仍未能彻底解决虚假账户的问题,若不是马斯克非常在意推特的真实用户情况,在这份被不少人认为可能是推特的最后一份财报中,推特是否会自曝存在夸大mDAU的情况还未可知。

被恶意使用的社交机器人及其灰产

社交机器人与传统意义上的机器人不同,它们并没有物质实体,而是一种存在于虚拟空间的虚拟机器人,虽然对社交机器人的定义并不相同,但本质上社交机器人是通过算法在网络上进行原本只有人类才能进行的内容生产工作。

以人们日常生活中常说的“水军”为例,凭借社交机器人,互联网水军已经实现了主体的转变。早在论坛还是主要的互联网社交平台的时候,就已经出现了“发帖机”等可以在短时间内大量转发信息的技术,但由于这类技术所发布的信息较为机械,易于识别,因此目前仍以人工水军为主。

但随着社交机器人的出现,成本高的人工水军逐渐被取代。随着人工智能的发展,社交机器人的算法可以让其开始具备某些人的特征,并能够在点赞、关注、转发之余模仿人类用户发布一些消息,还会与其他用户互动,甚至形成“社交关系网”。随着社交机器人智能的提升,对人类行为模仿程度的上升,社交媒体平台的风控难度加大,不仅越来越难以识别,还有可能误伤正常用户,同时,现实中的人类用户也越来越难以分辨哪些是真人,哪些是机器人。

根据皮尤研究中心2018年做出的一份报告,在美国的社交平台中,有53%的成人用户不知道自己是和真人还是机器人聊天,34%的人表示根本没听说过社交机器人。虽然只有4500人接受了该调查,该调查的数据是否准确存疑,但也在一定程度上反映出社交机器人已经对人们的网络社交环境造成了影响。

这些影响首先就体现在大量社交机器人的出现对网络社交媒体平台舆论的影响。北京师范大学新闻传播学院执行院长、教授,传播学博士张洪忠在一次访谈中表示,2016年的时候美国总统选举里面,多种数据都显示20%左右的信息是社交机器人发出来的。

张洪忠还举例表示,英国脱欧的投票前两个月,大量的Facebook、Twitter账号里面,是支持脱欧的。两个月投票结束以后,这些账号突然就沉没了。但是后来这些账号又在法国的选举里面又出现了、又活跃了。这类社交机器人已经形成一个全球的地下产业链,就像雇佣军一样。

不过,类似于水军这类的社交机器人只是社交机器人中的一部分,随着人工智能、大数据等技术在社交媒体上的运用,以及越来越多人开始尝试元宇宙相关领域,社交机器人的积极意义也逐渐显现。

社交机器人的技术和监管难题仍然严峻

社交机器人的舆论引导作用并非是一个完全负面的作用,比如社交机器人既可以是制造传播谣言的愚者,也可以是辟谣止谣的智者,若得到较好的利用,则可以为建立良好网络舆论环境服务。

2011年,太平洋社会建筑公司的首席科学家Hwang等人曾通过在社交媒体上部署社交机器人的方式实验发现,大量的机器人程序可以用来修补内斗的社会群体间断开的联系,并弥合现有的社会鸿沟。

张洪忠也曾表示,信念沟是一个很重要的互联网现象,观念相同的人,就会形成一个群,观念不同的人,可能就退群。辟谣工作的难点就在于怎样将辟谣信息输送进去。由于社交机器人传输速度、扩散速度不是人工可比的,而且是主动地去传,去推送,有助于跨越信念沟抑制谣言的扩散。

不过,尽管社交机器人出现的时间要比很多人想象得早,也可以在不少领域应用,但当前的社交机器人仍有诸多问题需要解决——除去商业模式单一、盈利困难等人工智能企业老生常谈的通病外,在社交机器人这个非常小的细分领域中,也有很多技术问题和其他因素需要考虑:

首先就是如何确保社交机器人成为一名“好学生”。通过机器学习,社交机器人可以越来越好地模仿人的行为、理解人们的发言,甚至可能读出字面意思之外的画外音,但如何确保机器学习数据的质量也是个问题。由于社交机器人早已具备主动发布、传播消息的能力,一旦数据质量出现问题,就可能出现很多来自于社交机器人的离谱言论。

已有不少观点认为社交机器人的“情商”是社交机器人需要重点研究的内容,因为在社交机器人领域,感性的判断和理性分析同样重要,二者最大的一个区别就是,对于两个不同人提出的一个同样的问题,社交机器人能否给出两份或多份答案。

以微软小冰为例。

微软小冰是目前国内知名度较高的社交机器人产品,微软小冰CEO李笛曾表示,“我们认为人工智能真正的商业模式的价值是在To C上的,我们今天的判断就是我们认为大量的和人直接接触的AI Beings会是未来,但这个需要我们再去进一步的拓展,才能够确定”。

若李笛的判断准确,那么当前的社交机器人仍处在较为初级阶段,当前能够用于To C的产品并不多,能够为企业带来收益的,主要还是To B的产品。

此外,还有一些法律伦理等其他因素也会影响到社交机器人的发展,毕竟技术本身没有好坏,好坏的是人们的使用方式。当前对社交机器人的监管仍处于灰色地带,只能依靠企业自查和社会各方面的监督,如何规范和管理社交机器人的使用仍是一个难题。

回到马斯克收购推特这件事上,无论马斯克是出于何种目的要亲自核查虚假账户,收购完成好要如何清理虚假账户,能够取得怎样的结果,这对社交机器人产业由地下转到地上都起到了一定的积极作用。

本文为转载内容,授权事宜请联系原著作权人。

Twitter

2.9k
  • 马斯克:下周应该可以在X平台上使用Grok-1.5
  • AI创企xAI将推出Grok-1.5

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

社交机器人为何成为推特卖身马斯克的绊脚石?

推特上存在大量的虚假账户再次引发了社交机器人的争议。

文|猫头鹰科技 李东耳

有马斯克的地方永远不缺热闹看,高价收购推特(TWTR.NYSE)一事一波三折:

2022年5月13日,马斯克表示暂时搁置收购推特的交易,以等待确认推特上的“虚假账户”是否小于5%,随后又表示搁置只是暂时的,马斯克仍致力于收购推特。

据了解,在推特最新的财报会议上,推特方面曾表示其虚假账户的数量不到5%。然而,马斯克认为推特上的虚假账户等占比或不低于20%。

不过,马斯克确认“虚假账号”的方式却给他带来了一些小麻烦:

一方面,Meta(FB.NASDAQ)联合创始人达斯汀·莫斯科维茨的指出:“马斯克的方法不是随机的,使用的样本太少,存在巨大的错误空间”;

另一方面,马斯克在推特上发文称,推特发布部门向其表示,马斯克泄露了样本量违反了保密协议。

推特上存在大量的虚假账户再次引发了社交机器人的争议。

推特上的虚假用户浮出水面

伴随着马斯克高价收购推特引发舆论关注,这让推特上面的虚假用户情况浮出水面:

在推特2022财年第一财季财报中,推特方面表示存在因“错误原因”导致此前1年披露的mDAU数据比实际数值高出140万-190万,约占总mDAU的1%。

据了解,mDAU是指可变现活跃用户,主要反映的是推特的广告价值,自2019年起,推特的财报中就用mDAU代替用户数量进行披露。然而推特方面表示,自2019年起,推特的mDAU数据就因一项此前未发现的“错误”而被夸大。

事实上,推特也一直在通过自己的方式解决这些虚假账户,并在以往的财报中多次提及随着用户数量的增长,垃圾信息与虚假账户对推特可能造成的不利影响。

2018年6月,推特曾为清理垃圾信息和这类账户而专门收购了一家网络安全公司Smyte,利用算法识别不当信息和相关账号。

此举令推特的月活受到影响,据推特2018财年第三财季报,该财季推特月活同比降约400万,环比降约900万,时任美国总统的特朗普曾抱怨自己的账号因此损失了30万粉丝。

不过,当时的推特已经面临用户数量增长乏力,月活难以增长,日活相对较少的局面,一味地寻追求户增长已经无意义,提高真实用户的日活更有利于推特的发展,这也是推特收购Smyte消灭虚假账户,用mDAU代替用户数量的原因。

但是,推特虽然已经取得了一定的结果,但仍未能彻底解决虚假账户的问题,若不是马斯克非常在意推特的真实用户情况,在这份被不少人认为可能是推特的最后一份财报中,推特是否会自曝存在夸大mDAU的情况还未可知。

被恶意使用的社交机器人及其灰产

社交机器人与传统意义上的机器人不同,它们并没有物质实体,而是一种存在于虚拟空间的虚拟机器人,虽然对社交机器人的定义并不相同,但本质上社交机器人是通过算法在网络上进行原本只有人类才能进行的内容生产工作。

以人们日常生活中常说的“水军”为例,凭借社交机器人,互联网水军已经实现了主体的转变。早在论坛还是主要的互联网社交平台的时候,就已经出现了“发帖机”等可以在短时间内大量转发信息的技术,但由于这类技术所发布的信息较为机械,易于识别,因此目前仍以人工水军为主。

但随着社交机器人的出现,成本高的人工水军逐渐被取代。随着人工智能的发展,社交机器人的算法可以让其开始具备某些人的特征,并能够在点赞、关注、转发之余模仿人类用户发布一些消息,还会与其他用户互动,甚至形成“社交关系网”。随着社交机器人智能的提升,对人类行为模仿程度的上升,社交媒体平台的风控难度加大,不仅越来越难以识别,还有可能误伤正常用户,同时,现实中的人类用户也越来越难以分辨哪些是真人,哪些是机器人。

根据皮尤研究中心2018年做出的一份报告,在美国的社交平台中,有53%的成人用户不知道自己是和真人还是机器人聊天,34%的人表示根本没听说过社交机器人。虽然只有4500人接受了该调查,该调查的数据是否准确存疑,但也在一定程度上反映出社交机器人已经对人们的网络社交环境造成了影响。

这些影响首先就体现在大量社交机器人的出现对网络社交媒体平台舆论的影响。北京师范大学新闻传播学院执行院长、教授,传播学博士张洪忠在一次访谈中表示,2016年的时候美国总统选举里面,多种数据都显示20%左右的信息是社交机器人发出来的。

张洪忠还举例表示,英国脱欧的投票前两个月,大量的Facebook、Twitter账号里面,是支持脱欧的。两个月投票结束以后,这些账号突然就沉没了。但是后来这些账号又在法国的选举里面又出现了、又活跃了。这类社交机器人已经形成一个全球的地下产业链,就像雇佣军一样。

不过,类似于水军这类的社交机器人只是社交机器人中的一部分,随着人工智能、大数据等技术在社交媒体上的运用,以及越来越多人开始尝试元宇宙相关领域,社交机器人的积极意义也逐渐显现。

社交机器人的技术和监管难题仍然严峻

社交机器人的舆论引导作用并非是一个完全负面的作用,比如社交机器人既可以是制造传播谣言的愚者,也可以是辟谣止谣的智者,若得到较好的利用,则可以为建立良好网络舆论环境服务。

2011年,太平洋社会建筑公司的首席科学家Hwang等人曾通过在社交媒体上部署社交机器人的方式实验发现,大量的机器人程序可以用来修补内斗的社会群体间断开的联系,并弥合现有的社会鸿沟。

张洪忠也曾表示,信念沟是一个很重要的互联网现象,观念相同的人,就会形成一个群,观念不同的人,可能就退群。辟谣工作的难点就在于怎样将辟谣信息输送进去。由于社交机器人传输速度、扩散速度不是人工可比的,而且是主动地去传,去推送,有助于跨越信念沟抑制谣言的扩散。

不过,尽管社交机器人出现的时间要比很多人想象得早,也可以在不少领域应用,但当前的社交机器人仍有诸多问题需要解决——除去商业模式单一、盈利困难等人工智能企业老生常谈的通病外,在社交机器人这个非常小的细分领域中,也有很多技术问题和其他因素需要考虑:

首先就是如何确保社交机器人成为一名“好学生”。通过机器学习,社交机器人可以越来越好地模仿人的行为、理解人们的发言,甚至可能读出字面意思之外的画外音,但如何确保机器学习数据的质量也是个问题。由于社交机器人早已具备主动发布、传播消息的能力,一旦数据质量出现问题,就可能出现很多来自于社交机器人的离谱言论。

已有不少观点认为社交机器人的“情商”是社交机器人需要重点研究的内容,因为在社交机器人领域,感性的判断和理性分析同样重要,二者最大的一个区别就是,对于两个不同人提出的一个同样的问题,社交机器人能否给出两份或多份答案。

以微软小冰为例。

微软小冰是目前国内知名度较高的社交机器人产品,微软小冰CEO李笛曾表示,“我们认为人工智能真正的商业模式的价值是在To C上的,我们今天的判断就是我们认为大量的和人直接接触的AI Beings会是未来,但这个需要我们再去进一步的拓展,才能够确定”。

若李笛的判断准确,那么当前的社交机器人仍处在较为初级阶段,当前能够用于To C的产品并不多,能够为企业带来收益的,主要还是To B的产品。

此外,还有一些法律伦理等其他因素也会影响到社交机器人的发展,毕竟技术本身没有好坏,好坏的是人们的使用方式。当前对社交机器人的监管仍处于灰色地带,只能依靠企业自查和社会各方面的监督,如何规范和管理社交机器人的使用仍是一个难题。

回到马斯克收购推特这件事上,无论马斯克是出于何种目的要亲自核查虚假账户,收购完成好要如何清理虚假账户,能够取得怎样的结果,这对社交机器人产业由地下转到地上都起到了一定的积极作用。

本文为转载内容,授权事宜请联系原著作权人。