撰文 | 翁雨晴

编辑 | 黄月

今年10月31日，柯林斯词典宣布“人工智能”（AI）被评为年度词汇。AI在词典中的定义为“通过计算机程序对人类的心理功能进行模拟”。据柯林斯统计，在过去的一年里，这个词的使用量增长了四倍。

以OpenAI推出的ChatGPT为首，这一年来各种生成式人工智能产品层出不穷，至今已经形成一整套蓬勃的生态。画图有Leap Motion的Midjourney，谱曲有谷歌的MusicLM，办公有微软的Copilot。我们仿佛一夜之间踏入了科幻世界。《钢铁侠》电影中那个造铠甲、管理卫星、保护核弹密码无所不能，对斯塔克的衣食住行悉心照顾，还时不时说两句俏皮话的贾维斯，似乎离我们不再遥远。

但人工智能带来的不仅是便利。且不去想象将人类清洗殆尽的“天网”系统，当今科技水平的人工智能已经给社会带来了不小的冲击。AI以假乱真的艺术作品促使我们思考艺术的外延和内涵，拷问什么是“假”、什么是“真”，什么是智能和创意。不同于第一、第二次工业革命对制造业的影响，这次首当其冲受到影响的是文化产业。由于人工智能的出现模糊了“独创性”、“艺术表现”、“合理使用”等概念，“知识产权”相关立法亟需修订和补充。另外，AI工具的普及也造成了白领工作者的普遍担忧，这一项颠覆性科技必将对已经倾斜的劳资关系产生深远的影响。

有一个比喻说，人们看新兴科技就像看火车从远处驶来。离得远的时候，速度似乎很慢，总也到不了眼前。等火车真的到了身边，刹那间呼啸而过，我们却都来不及反应。也许现在就是AI的火车来临的一刻。无论是作为个人还是共同体，我们都不得不做好准备。正如同济大学人文学院副教授、哲学系副主任余明锋在接受界面文化采访时所言：“人工智能的广泛应用究竟意味着什么？它对经济、政治、日常生活，乃至人类的自我理解，对我们的哲学思考和基本的价值信念、社会法则等等会带来哪些深刻的挑战？这是未来会发生的事情，也是我们作为思想者如此关注它的更为重要的原因。所以，关于此的公共讨论非常有必要。”

01 AI与创作：是复制还是创作？是学习还是抢夺？

关键词：著作权、ChatGPT、Midjourney、科幻、音乐

11月27日，北京互联网法院针对全国第一例AI生成图片著作权侵权纠纷作出一审判决，判定原告因设计提示词、修改参数等活动构成“智力投入”、“个性化表达”，依法享有著作权。这一案例对未来AI在文化产业的应用具有里程碑式的意义。根据界面新闻对业内人士的采访，“它的意义在于从法律上承认AIGC作品（指人工智能生成内容，Artificial Intelligence Generative Content）的独创性，具备可要求侵权损害赔偿的权利。这是立法者积极跟上科技发展节奏的一个重要表现。”

在判断某物是否为“作品”时，法律主要考虑几项要素：是否属于文学、科学和艺术领域；是否有独创性；是否具有一定的表现形式；是否属于智力成果。在此案中，法院认为涉案的AI生成图片毋庸置疑属于艺术表现，因为它和我们平常看到的、人类创作的图像没有区别，而原告在图片生成过程中投入的思想则满足了“智力”和“独创性”的要素。由于AI目前不具备自由意志，不是法律上的主体，本质上仍然是人利用工具进行创作，所以人享有著作权法的保护。

《“我的画被偷了？” AI生成图片著作权侵权第一案判决书出炉》的报道指出，著作权制度的核心目的是鼓励创作，所以当新技术出现时，应当适当使用著作权法鼓励更多的人去用最新的工具创作。

随着以ChatGPT为首的生成式AI进入大众生活， AI生成的作品正不断迫使人们重新思考何为艺术。这一巨变类似于摄影技术首次出现使绘画作为一种“再现”的艺术受到冲击。界面文化曾就“AI终结艺术”的说法展开探讨，并指出新兴科技终结的并不是艺术本身，而是特定的艺术叙事。摄影技术普及之后，现代主义艺术找到个人情感表达和平面性作为锚点，扩展了艺术的外延，给后人留下一众独出心裁的杰作。当今，AI本身就是一件极度挑衅的艺术品。创作门槛的降低、生成作品的可控性和随机性的并存，AI背后进行大数据训练的科技公司，都已突破现代或后现代艺术的边界，指向一种新的艺术生命体。

AI在全球范围内对创作者的冲击不限于视觉领域。今年2月，著名科幻杂志《克拉克世界》暂停征稿，原因是收到AI生成的作品过多，审稿工作无法进行。不过，杂志编辑希拉·威廉姆斯（Sheila Williams）也表示，机器写的文章一眼就能看出来，AI要替代作家还有很长的路要走。

在音乐方面，今年5月份，AI孙燕姿和人工智能翻唱引发关注。音乐人与声音空间设计师李星宇在接受界面文化专访时指出，AI在音乐行业的应用早已非常广泛。音乐的本质与数学或金融类似，是纯粹的心智活动，比起绘画这类借助物理形态的创作，音乐极易和科技结合产生质变。但当技术被大企业垄断，归顺于其营利目标，普通创作者的生存空间受到了挤压。大数据分析催生出了大量不求有功、但求无过的网红口水歌，播放列表文化更把听众培养成被动接受推荐、不知自主探索的“孩子”，今后，不知口味被算法形塑的听众还能不能欣赏超出认知的音乐，也不知道底部创作者还有没有资源创作颠覆认知的新作并将其推向市场。李星宇在采访中悲观地表示：“最有可能出现的情况是，平台将资源分给自家的AI，同时头部艺人仍然会索要自己那一份，最后就不剩什么给其他创作者了。”

以上案例涉及的都是AI的内容输出，现阶段，AI的训练仍离不开人类创意的输入。今年独领风骚的生成式AI依靠的是大语言模型，大语言模型的训练需要大量语料。理想语料也并非俯拾即是——数据初创公司Scale AI的拉塞尔·卡普兰（Russell Kaplan）指出，理想训练对象是篇幅够长、文笔良好、事实准确的作品。很多时候，它们来源于文学作品。科技公司对语料的攫取让作家们打响了一场维权大战，也让读者或观众对于“合理使用”、“知识产权”、“创意”等概念进行了更深度的思考。

今年6月，美国作家Paul Tremblay和Mona Awad起诉OpenAI，指控该公司未经授权使用他们的作品来训练其人工智能模型ChatGPT，并索求赔偿金。诉状指出，OpenAI用于训练ChatGPT的大部分数据来自受版权保护的作品，极有可能由Library Genesis等盗版网站提供。 

我们耳熟能详的一些作家也已加入这场对决。7月，全美作家协会（The Authors Guild）包括玛格丽特·阿特伍德、菲利普·普尔曼在内的一万多名作家签署了一封公开信，要求Open AI、微软、Meta Platforms等公司领导者不得在未经许可或未支付报酬的情况下使用自己的作品训练AI。9月，该协会和乔治·R·R·马丁等13位作家对OpenAI发起集体诉讼。作家们认为，既然他们的作品被用于训练盈利的AI产品，他们理应获得补偿。另外，他们也表达了对模仿作品泛滥的担忧。重点不仅仅是AI侵权，而是这种侵权行为所服务的目的将严重损害作家的权益，其情形与前文提到的音乐行业类似。

综上看来，许多创作者已经在积极应对AI的出现和发展，推动著作权法的完善。但更广泛的担忧并非某一作品被侵权，而是“模仿文化”对整个创意产业的影响。《Rethinking creativity: creative industries, AI and everyday creativity》一文指出，AI的出现促使我们重新思考“创意”这一概念。从知识产权的视角出发，创意被视为一种资本、一种可以明码标价的固定表达，而创意的劳动维度往往被忽略。创意的产生首先要求创造者能满足温饱，并付出大量劳动来提高自我修养，这样才能维持创造力，使灵感能在特定时刻涌现，而这些劳动往往是无偿的。

02 AI与人类工作：替代、掠夺或推动变革

关键词：好莱坞罢工、OpenAI外包工人、《后工作时代》、教育行业、模特行业

今年持续了五个月的好莱坞罢工，正是创意产业从业者从劳资关系的维度对AI进行的反击。界面文化曾报道过，除了流媒体平台利润的分成问题， AI也是此次罢工的一个重要议题。编剧工会要求AI只能作为编剧的辅助工具，演员工会也反对由AI生成的角色代替各类演员出演。和此前作家的抗议类似，演员们质疑“制片方是否有权让AI学习演员的作品”。

在长达五个月的僵持之后，制片方终于在11月作出重大让步。据《卫报》报道，此次编剧们取得的主要胜利包括：制片厂不得让AI生成原材料然后要求编剧修改，也不得让AI修改编剧的作品。麻省理工学院经济学家Simon Johnson在接受《卫报》采访时称，编剧们取得的协议是非常“聪明”的，因为在此安排下编剧仍然可以使用AI作为调研工具。Johnson说：“AI是由编剧而不是制片厂控制的。它不会成为自动化科技，而是对人类工作进行补充。” 

然而，好莱坞编剧和演员的成功很大程度上要归因于好莱坞的全球影响力、以及他们的人气基础。并不是所有人在面对大平台和AI时都有能力奋起反抗。界面文化曾关注AI标记员的困境——OpenAI以时薪1.32美元雇佣肯尼亚外包工对其内容进行审核。《Times》发布的调查报道揭露了这些低薪工人的状况，他们长期负责标记带有暴力、色情、言论仇恨的数据，沉浸在有冲击性的污秽内容中，很多人都出现了PTSD、抑郁、焦虑等心理问题，失眠与噩梦频频发生。

今年上海译文出版社引进的《后工作时代：平台资本主义时代的劳动力》一书深刻剖析了平台资本主义时代的“微工作”制度。它看似创造了自由、弹性、体面、不受地域限制的新工作，为全球南方带来福音，其实是全球工作危机的进一步扭曲。比如，亚马逊的微工作网站Mechanical Turk提供大量数据标记工作，但只有发达国家的少数人可以通过银行转账来获得报酬，来自全球南方国家的工人只能领取礼品卡，用于购买亚马逊提供的商品和服务。同时，由于计件任务的性质，工人需要花大量时间寻找下一份工作，寻找工作的时间甚至比完成工作的时间还长。这样的工作不仅没有权利保障，还有严重的伦理问题，工人不知道他们自己输入的数据最终被用于什么目的。美国军方曾和谷歌共同开发过一个人工智能程序，数据标记员只知道自己在对无人机视频进行分类，却不知程序实则是为了帮军队识别战场上的目标。

随着人工智能技术的发展，即使是这样不稳定的工作也正变得难以维持。《训练人工智能的中国县城工人》一文提到，人工智能研究者们已经开始尝试向机器“喂养”未标注的数据与部分标注数据，亦即“半监督学习”，而不依赖于人工标注的自监督学习与数据标注。腾讯、阿里、字节跳动等一众大厂都在研发自监督学习的算法，甚至有些数据标注公司也已有60%内容来自于机器的自动化标注。数据标注员曾被称为“人工智能的老师”，每人每天上千次的拉框教会了人工智能理解世界，没想到“老师”转眼间要将被“学生”取代。 

人工智能正在取代越来越多的工作。《南方周末》的报道展示了AI对于教育行业和模特行业的挑战：AI教育系统Call Annie一经推出，美国的教育平台Chegg股价暴跌50%，不用约课、目前免费、24小时陪聊的AI教师也许会在未来淘汰所有语言老师、基础教育类老师、翻译、甚至大学助教；AI模特对真人模特的巨大挑战也正在凸显，不仅身高、发色可以随意调节，在其后的商业运作中还可以改写AI模特的故事，目前AI模特Aitana Lopez已完全能以假乱真，每月承接1万欧元的广告。

只要善于适应，人类的未来或许并非一片灰暗。科幻作家慕明在接受界面文化采访时称，当机器可以代替很多工作， 我们就要审视还要不要重视这类功夫。当机器很快学习到语言风格，文学作者就会想如何写出逻辑更强、有更多隐含内容的文本。就像爱德华·阿什福德·李（注：《柏拉图与技术呆子》《协同进化：人类与机器融合的未来》作者，计算机科学家）提出的那样，技术和人是协同进化的，人类会随着人工智能的进化改变自己。慕明有一个天马行空的想法，未来可以把ChatGPT作为创新的参考线、或计量单位，如果新推出一个小说家，可以去衡量他的创意是ChatGPT的0.8倍还是1.5倍。既然机器可以通过人类来学习，为什么人不能通过机器的反馈来学习呢？

03 AI的风险与监管：如何走向“人机一体”的未来？

关键词：AI竞赛、AI幻觉、AI战争、AI立法、《人类世的<资本论>》

AI带来的社会风险不容小觑。即使是马斯克这样的科技狂人，也在今年3月领衔签署公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。不过也有人认为他只是在为自己公司开发AI产品拖延时间。

无论如何，马斯克的呼吁并未得到响应，AI竞赛仍在如火如荼地进行中。界面文化之前的评论文章曾提到许多值得我们警惕的点。比如，美国警察局会使用预测分析软件，根据其指导更频繁地对低收入社区巡逻和搜索，对AI的过度依赖加剧了已有的贫穷和不公。另外，ChatGPT常常“一本正经地胡说八道”，给出看似非常有权威性的错误答案。人们必须警惕这种“幻觉”，保留自主验证信息的习惯。

英国哲学家伊丽莎白·米勒也在接受界面文化采访时提到了人工智能与战争机器的关系。她指出，在新近的巴以冲突之中，以色列正在使用被称为大规模暗杀工厂的“福音”（Habsora）人工智能系统，它在过去几周里杀死了成千上万的人。

目前，各国都在紧锣密鼓地推动AI立法。7月，我国出台了《生成式人工智能服务管理暂行办法》。10月，拜登签署了关于AI的行政令。12月，欧盟委员会三方就《人工智能法案》达成协议，使该法案成为全球首部人工智能领域的全面监管法规，涵盖版权、数据隐私、公共安全等多方面。

在未来的立法方向上，AI的民主管理和监督至关重要。正如《人类世的<资本论>》作者斋藤幸平在接受界面文化采访时表示的，我们现在所拥有的所有技术几乎都被GAFA（Google、Apple、Facebook、Amazon）这样的私人企业出资垄断了，而普通人并不具备发展此类规模技术的能力，即使某家公司在黑箱内部进行诱导我们也无从得知。所以要制定规则保证它不受公司逻辑的影响，以民主的方式决定如何管理它，并进行更多监督。

当工具变得过于强大， 每个人都需要思考如何在新的时代与工具进行合理的交互。在澎湃思想市场的《“他者”涌现：生成式人工智能大模型漫谈》一文中，中科院自动化研究所博士研究生张宇欣和中科院自动化研究所研究员董未名指出，当程序员们不再使用01编码和计算机沟通，而使用Python这种更贴近自然语言的编程语言，当人们每天都在学习如何使用提示词更好地与AI沟通，人类和机器似乎正在以一种人机共同创造的语言为纽带进行融合。在这个“人机一体”的时代，我们不仅仅要提升技术水平，更要反思自身，深入地了解人类的局限和人工智能的潜力。人工智能终将与我们每个人有关，无论是在创意、工作的层面上，还是在人类认清自我与理解语言的层面上。

参考资料：

Lee, Hye-Kyung. “Rethinking Creativity: Creative Industries, AI and Everyday Creativity.” Media, Culture & Society, vol. 44, no. 3, 2022, pp. 601–12,

https://authorsguild.org/news/thousands-sign-authors-guild-letter-calling-on-ai-industry-leaders-to-protect-writers/

https://authorsguild.org/news/ag-and-authors-file-class-action-suit-against-openai/