正在阅读:

对话微博COO王巍:内容平台如何解决“大模型幻觉”?|REAL大会

扫一扫下载界面新闻APP

对话微博COO王巍:内容平台如何解决“大模型幻觉”?|REAL大会

王巍表示,AIGC所产生的回答,本质上是一个文字生成概率问题,因此AI回答内容时,必然需要关注到由概率带来的不确定风险甚至谬误。

图片来源:界面新闻

界面新闻记者 | 彭新

今年ChatGPT的爆火,让AI技术走入了大众视野。在舆论普遍关注讨论的潮流之下,围绕AI开发拓展的各类应用,也给各行各业的产业流程再造和格局重塑带来深层涌动。

对于微博等内容平台而言,AIGC技术带来的冲击更为深刻广泛,是大模型前期的典型应用方向,AI聊天机器人给用户带来更真实的社交体验,而文生图、文生文等AIGC应用,也大幅降低了内容创业者的创作门槛,有利于内容快速制作,进一步提高效率。

1026日,在由界面新闻主办的2023 REAL科技大会上,微博COO、新浪移动CEO王巍称,在AIGC布局上,微博目前已实现利用AIGC辅助高效内容生产、替代部分专业内容生产者角色、根据用户需求生成个性化定制内容、提升商业运营效率,AIGC在微博多场景中的应用较大提升了内容生产效率,并陆续推出了覆盖明星、情感等方向的多垂类“AI伴聊”功能。

王巍介绍称,微博从目前用户反馈来看,这些功能得到用户以及艺人工作室的认可,很多用户在超话、评论区等地方形成自发性讨论与宣传。王巍认为,此类垂类“AI伴聊”可以利用垂类博主在不同领域的专业知识,通过风格化、专业化聊天互动,为用户提供信息价值并优化用户社交体验,同时提升粉丝与博主的互动粘性,功能也得到了用户的认可。

作为内容平台, 从目前国内外的AIGC技术在内容社区的实践来看,相关应用均存在一定争议,比如版权所有方对于数据集训练和标注的争议,近期包括社交平台X(原推特)、OpenAI均受到相关版权方法律争议。

对此王巍坦言,内容平台的版权争议将长期存在,但核心问题可能是AIGC及其应用的发展速度太快,社会影响面太大,这造成对之前大家都比较习惯的传统方式带来很大冲击,包括观念方面的以及使用习惯方面的。

“当人们在拥抱技术的时候,你肯定是先拥抱技术的机会,然后再考虑其他挑战,而挑战所带来的社会问题,随之而来需要解决。”王巍告诉界面新闻记者,AIGC来得太快,对于很多新现象、新问题,人们各方面,包括心理上还没准备好,就像汽车刚面世的时候,人们对于汽车、马车哪个更好存在争议,但这并不能阻止汽车快速普及。

不过,尽管AIGC带来了内容创作进入下一个阶段的曙光。王巍看到,在有了底层大模型生态,以及微博这样的终端应用场景平台情况下,仍有三大问题制约AIGC应用实现爆发性增长:首先是大模型推理成本居高不下。目前结论是模型规模越大效果越好,但是这带来推理成本很高的问题,一旦使用应用的用户规模上来,成本之高很难承受;

其次是大模型幻觉问题。在很多严肃商业应用环境下,不允许大模型输出“幻觉”内容,所以这严重约束并减少了大模型的应用场景。

最后,大模型在生成内容可控性方面仍然有缺陷,这体现出技术仍然不够成熟。比如很多文生图模型,在正确生成图片中的汉字或者精细内容可控生成方面仍显不足。这制约了大模型的应用效果和应用范围。

所谓“大模型幻觉”,通俗来说就是AI会“一本正经地胡说八道”,如ChatGPT在聊天中输出与常识不符的聊天内容。该如何解决大模型幻觉问题?对此王巍表示,AIGC所产生的回答,本质上是一个文字生成概率问题,因此AI回答内容时,必然需要关注到由概率带来的不确定风险甚至谬误。但从技术角度来看,内容平台上可以通过调整某些模型参数来对AI模型进行一个文字输出概率上的调整,如AI在回答医疗等需要严谨答案的问题时,就可通过设置合适的温度超参系数,强制让AI不要过于自由发挥,给出更精确更可信的答案。

王巍介绍,在解决大模型中的幻觉时,微博主要有两点考虑:一方面,微博利用现有相对成熟的技术方案缓解幻觉问题。比如采用Langchain+向量知识库的方案,将很多背景事实信息存入向量数据库中,通过搜索增强的方式来尽量减少大模型幻觉。另外一方面,微博也会探索一些对于大模型幻觉不敏感的应用方向,比如虚拟角色或类似Character.ai的场景,对此类应用而言,大模型产生幻觉不是大问题,甚至有时候还是好事情,比如幻觉内容会让用户觉得回答更有趣或者更有创意。

未经正式授权严禁转载本文,侵权必究。

新浪微博

3.2k
  • 微博:更新热搜词条处置规则,上线投诉入口
  • 微博通报用户恶意造谣或攻击诋毁民营企业、企业家被禁言

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

对话微博COO王巍:内容平台如何解决“大模型幻觉”?|REAL大会

王巍表示,AIGC所产生的回答,本质上是一个文字生成概率问题,因此AI回答内容时,必然需要关注到由概率带来的不确定风险甚至谬误。

图片来源:界面新闻

界面新闻记者 | 彭新

今年ChatGPT的爆火,让AI技术走入了大众视野。在舆论普遍关注讨论的潮流之下,围绕AI开发拓展的各类应用,也给各行各业的产业流程再造和格局重塑带来深层涌动。

对于微博等内容平台而言,AIGC技术带来的冲击更为深刻广泛,是大模型前期的典型应用方向,AI聊天机器人给用户带来更真实的社交体验,而文生图、文生文等AIGC应用,也大幅降低了内容创业者的创作门槛,有利于内容快速制作,进一步提高效率。

1026日,在由界面新闻主办的2023 REAL科技大会上,微博COO、新浪移动CEO王巍称,在AIGC布局上,微博目前已实现利用AIGC辅助高效内容生产、替代部分专业内容生产者角色、根据用户需求生成个性化定制内容、提升商业运营效率,AIGC在微博多场景中的应用较大提升了内容生产效率,并陆续推出了覆盖明星、情感等方向的多垂类“AI伴聊”功能。

王巍介绍称,微博从目前用户反馈来看,这些功能得到用户以及艺人工作室的认可,很多用户在超话、评论区等地方形成自发性讨论与宣传。王巍认为,此类垂类“AI伴聊”可以利用垂类博主在不同领域的专业知识,通过风格化、专业化聊天互动,为用户提供信息价值并优化用户社交体验,同时提升粉丝与博主的互动粘性,功能也得到了用户的认可。

作为内容平台, 从目前国内外的AIGC技术在内容社区的实践来看,相关应用均存在一定争议,比如版权所有方对于数据集训练和标注的争议,近期包括社交平台X(原推特)、OpenAI均受到相关版权方法律争议。

对此王巍坦言,内容平台的版权争议将长期存在,但核心问题可能是AIGC及其应用的发展速度太快,社会影响面太大,这造成对之前大家都比较习惯的传统方式带来很大冲击,包括观念方面的以及使用习惯方面的。

“当人们在拥抱技术的时候,你肯定是先拥抱技术的机会,然后再考虑其他挑战,而挑战所带来的社会问题,随之而来需要解决。”王巍告诉界面新闻记者,AIGC来得太快,对于很多新现象、新问题,人们各方面,包括心理上还没准备好,就像汽车刚面世的时候,人们对于汽车、马车哪个更好存在争议,但这并不能阻止汽车快速普及。

不过,尽管AIGC带来了内容创作进入下一个阶段的曙光。王巍看到,在有了底层大模型生态,以及微博这样的终端应用场景平台情况下,仍有三大问题制约AIGC应用实现爆发性增长:首先是大模型推理成本居高不下。目前结论是模型规模越大效果越好,但是这带来推理成本很高的问题,一旦使用应用的用户规模上来,成本之高很难承受;

其次是大模型幻觉问题。在很多严肃商业应用环境下,不允许大模型输出“幻觉”内容,所以这严重约束并减少了大模型的应用场景。

最后,大模型在生成内容可控性方面仍然有缺陷,这体现出技术仍然不够成熟。比如很多文生图模型,在正确生成图片中的汉字或者精细内容可控生成方面仍显不足。这制约了大模型的应用效果和应用范围。

所谓“大模型幻觉”,通俗来说就是AI会“一本正经地胡说八道”,如ChatGPT在聊天中输出与常识不符的聊天内容。该如何解决大模型幻觉问题?对此王巍表示,AIGC所产生的回答,本质上是一个文字生成概率问题,因此AI回答内容时,必然需要关注到由概率带来的不确定风险甚至谬误。但从技术角度来看,内容平台上可以通过调整某些模型参数来对AI模型进行一个文字输出概率上的调整,如AI在回答医疗等需要严谨答案的问题时,就可通过设置合适的温度超参系数,强制让AI不要过于自由发挥,给出更精确更可信的答案。

王巍介绍,在解决大模型中的幻觉时,微博主要有两点考虑:一方面,微博利用现有相对成熟的技术方案缓解幻觉问题。比如采用Langchain+向量知识库的方案,将很多背景事实信息存入向量数据库中,通过搜索增强的方式来尽量减少大模型幻觉。另外一方面,微博也会探索一些对于大模型幻觉不敏感的应用方向,比如虚拟角色或类似Character.ai的场景,对此类应用而言,大模型产生幻觉不是大问题,甚至有时候还是好事情,比如幻觉内容会让用户觉得回答更有趣或者更有创意。

未经正式授权严禁转载本文,侵权必究。