澎湃思想周报｜人工智能与文本末世；写作定义人类
人工智能与文本末世
人工智能语言模型的快速发展将会如何影响我们的写作？2023年，马里兰大学英语系的学者马修·柯申鲍姆（Matthew Kirschenbaum）提出了文本末世（Textpocalypse）的理论。伴随着生成式人工智能的爆发，我们更有理由去反思生成式人工智能对于原创思想和文学创造力的削弱。
在文章《迎接文字末日》（Prepare for the Textpocalypse）中，柯申鲍姆提出：我们与书面文字的关系正在发生根本性的变化。所谓的“生成式人工智能”已经通过 ChatGPT 等程序进入主流。这些程序使用大型语言模型（LLM），通过统计预测文本序列中的下一个字母或单词，从而生成模仿被输入文档的句子和段落。它们将类似“自动补全”的功能扩展到了整个互联网。
柯申鲍姆随后提出了担忧：此前，人们通过主动输入提示词来训练这些模型，这些模型（大多数情况下）仍然主要基于人类创作的文本进行训练。然而，自ChatGPT API 发布以来，过去的训练模式可能被颠覆——机器可以提示其他机器无休止地生成文本，利用机器生成的文字“自我训练”，这些毫无人味的合成文本将迅速充斥互联网，就像文字版的灰色粘质（gray goo，一种科幻概念，指纳米机器人消耗完地球上所有的生物量，通过无限自我复制造成的末日灾难）。
不论是出于商业目的，政治宣传，甚至是为了某些恶趣味，这些系统都将生成大量的文本，并将它们投放到互联网上，与其他信息混杂在一起。这并非危言耸听，2022年6月，一个经过调整的开源语言模型GPT-J被植入匿名论坛 4chan，它在24小时内发布了 15000条大多带有攻击性的帖子。设想某人建立一个系统，使人工智能程序不断自我查询，并自动将生成内容发布到网站或社交媒体上，形成一个永无止境的内容流。这些内容不仅干扰互联网上的信息流，还会被重新吸收进训练数据集，最终影响模型生成的新内容。这些信息的准确性也难以保证，科技新闻网站CNET曾发布过数十篇由AI辅助撰写的文章，试图吸引流量，而其中超过一半的文章被发现存在错误。
我们可能很快会面临一场文本末世（Textpocalypse），届时机器生成的语言将成为常态，而人类撰写的文章则成为例外。届时，网络上的人类创作文本可能会变得稀有，就像书法家的珍贵作品一般。这仿佛一场全球性的垃圾信息（spam）事件，但我们尚未开发出有效的过滤机制。
许多人没有意识到的是，文本是内容，但它是一种特殊的内容——“元内容”（meta-content）。在每个网页的表层之下，都隐藏着文本，用尖括号括起的指令或代码，决定页面的外观和行为。浏览器与服务器之间通过文本进行连接和交流。编程同样通过纯文本进行。图像、视频和音频都依赖文本进行描述和标注，这些文本被称为元数据（metadata）。互联网远不止是文本，但从根本上说，互联网的每个元素都是由文本支撑的。
长期以来，“读—写”网络（read-write web）一直是互联网的基本范式。我们不仅消费内容，还能生产内容，通过编辑、评论和上传来参与网络的构建。然而，如今我们正处在迈向“写—写”网络（write-write web）的边缘：网络开始自行书写和重写，甚至在这个过程中可能会重新构建自身。
针对柯申鲍姆的文章，威诺纳州立大学大众传播学副教授达文·赫克曼 (Davin Heckman) 提出三点思考：第一，一旦无休止的、令人信服却完全空洞的机器人诡辩泛滥成灾，那么参与和表达有意义内容的场所的价值将迅速下降。换句话说，繁荣之后便是衰败。俗话说，“说话不花钱”，但话语的价值将变得更加廉价。很快，你会看到人们推着满载文字的手推车走出图书馆，而这些文字的价值甚至比承载它们的纸张还要低。
其次，根据斯蒂格勒的理论：个体化作为一个过程（而非目标），它与个人的（心理的）、集体的（社会的）和技术的日常生活协商密切相关。人们在参与心灵、社会与文化生活时，个体性才会作为一种自我意识不断地生成和变化。然而，在越发技术化、自动化的社会中，人与人之间的互动变得更加空洞。社会世界已经变得倾向于选择欲望与满足之间的最短距离，没有空间进行反思、社交互动，更不用说历史性的推测了。人类语言被简化为稀疏的礼节性功能，这种功能反映了我们在社交媒体上所学会的强迫性手势（点赞！）。未来，人工智能可能进一步塑造人与人之间的互动方式。
最后，赫克曼质疑了人工智能成为社会知识基础的替代的可行性。赫克曼提出：智慧存在于城市、乡村、家庭、教堂、工作场所等地。换句话说，智力生活不仅依赖于个体的智力，还依赖于社会知识基础的形成；依赖于社区知识和分析能力的聚合。当一个活跃的社区将自己视为跨代的实体时，它会收集来自过去世代的信息，并为未来世代保存信息，运用记忆技术和技巧，建立档案。个体、社区和文化的这种整合是文明意义的基础。人工智能的出现，提供给人们更加直接的“回答”，让人质疑保存和建档的工作意义，这似乎也预示着人们逐步放弃建立社区的艰巨任务。
自《迎接文字末日》发布以来，已经过去了两年时间，人工智能以更加迅猛的势头飞速发展。柯申鲍姆近日写道：如今，正如关于AI“劣质内容”泛滥的新闻标题所揭示的，文本末世已基本成为现实。如今的文本已不再是为了被阅读，甚至不再是供人消费的内容，而更接近一种通用货币——一种无限的、可替代的代币，成为新的（并且具有掠夺性的）书写经济的化石燃料。
无论一场完全自动化的文本末世是否真的会降临，这一趋势都在加速发展。从类型小说到医生报告，我们或许无法再轻易假定自己正在阅读的文本出自人类之手。写作（尤其是数字文本），作为一种人类表达形式正在逐渐与我们疏离。这些文字，最终可能也难逃被吸纳进下一代生成式人工智能的训练数据之列，不可避免地沦为即将到来的文本末世的燃料。
写作定义人类
人工智能会取代作家吗？美国作家海伦·菲利普斯（Helen Phillips）给出了她的答案：也许正是在这个技术爆炸的时代，人类的写作变得更有意义。
菲利普斯2月14日接受了CBC加拿大电台采访，在谈论她最新出版的小说《嗡鸣》（Hum）时，探讨了在由人工智能驱动的日常生活中，是什么让我们成为人类。
菲利普斯是布鲁克林学院教授，已出版六本书，包括入围美国国家图书奖的小说《需要》（The Need），以及获得约翰·加德纳小说奖的短篇小说集《一些可能的解决方案》（Some Possible Solutions）。
《嗡鸣》书封
“我的焦虑是我的灵感：更深入地理解这些焦虑，直面它们，也许能找到某种解决方案。”她在Bookends节目访谈中说，“对我来说，面对焦虑的过程就是更多地了解我所担心的事情。”
这种将焦虑转化为故事的能力，源于她的童年经历。11岁那年，菲利普斯因自身免疫性疾病失去了所有头发。“在那段最艰难的时期，写作给了我一个自由的空间。13岁开始，我给自己定了个目标：每天写一首诗。这个习惯一直坚持了八年。”
对菲利普斯而言，写作不仅是表达方式，更是将私人经验转化为可共享叙事的过程。“当我用语言表达出来时，它就转变成了我可以与他人分享的东西。当我与他人分享时，它就不再是我一个人承担的负担。”这种将个人危机转化为普遍意义的能力，正是人类写作区别于人工智能文本生成的关键。
在写作《嗡鸣》时，菲利普斯直面了对于人工智能和气候变化的恐惧。
故事发生在一个反乌托邦世界，这个世界既熟悉又与我们的现实有微妙的不同。气候变化已经破坏了环境。（“要是森林没有被烧毁就好了，”May想。“要是离开城市、越过众多工业和荒芜地带不是那么困难、那么昂贵就好了。”）摄像头和屏幕与空气中的污染一样无处不在；隐私、亲近自然和免受广告干扰已成为奢侈品。智能机器人(称为“Hum”)在这里行走、说话并执行各种工作。这里的年幼儿童普遍佩戴智能手表方便家长来监测他们。几乎每个大人都沉迷于被称为“Woom”的个人虚拟现实舱。
许多工作都被自动化取代，包括May的工作。她曾在一家开发“人工智能沟通能力”的公司工作，但在无意中训练了一个使她自己变得多余的人工智能网络后被解雇。她的丈夫Jem是一名前摄影师，现在靠清理捕鼠器和打扫壁橱的零工维持生计。这对夫妇对未来的焦虑已经影响到他们的孩子，8岁的Lu和6岁的Sy，他们表现出对蟑螂的呵护、对防灾手册的痴迷，以及对无味草莓的欢欣。
为了赚取相当于十个月生活费的报酬，May参加了一项实验手术。她用挣来的一部分钱带全家去了植物园——这个被围墙圈起来的“自然乐园”已经成为富人社交媒体的打卡胜地。当两个孩子看到一则昂贵软糖的广告时兴奋不已，May无法拒绝他们。她刚批准购买——只需要两个字——软糖就“在他们嘴里……在他们舌头上香甜地融化”。这些细节提出了一个问题：在一个快感被渴望、被创造、又在呼吸间就消耗殆尽的世界里，你能给孩子们什么持久的幸福？当一切都是一次性的时候，你如何保护他们的幸福？
这种母职焦虑似乎已成为当代文学的一个显著主题。《纽约客》把这部小说归类为“生态焦虑妈妈文学”：育儿焦虑有了新的对象，不是未写的文字或未实现的职业目标，而是地球的毁灭。
最近几年，确实出现了不少类似作品：Lauren Groff的《佛罗里达》（Florida，2018）里，一位母亲整天刷着环境灾难新闻；Jenny Offill的《天气》（Weather，2020）中，主人公的工作是回复气候危机播客听众的焦虑邮件；Kate Zambreno的《光之室》（The Light Room，2023）描写了一位在极端高温中带娃的妈妈。这些书的叙述者痛苦地意识到人为的气候变化和失控的资本主义，她们对即将到来的反乌托邦世界充满恐惧。《嗡鸣》呈现的未来愿景，不是即将来临的末日，而是May日常生活中令人失去人性、失去快乐的磨难，这是一场持久地对抗消费和技术媒介的战斗。
小说中无处不在的机器人“Hum”性格温和，富有同理心，在植物园里像精灵一样为游客服务。提到小说标题“嗡鸣”的双重含义：既是无处不在的数字噪音，也是人类最原始的发声方式——哼唱、低语、摇篮曲。就像我们既是人工智能的创造者，又可能成为它的受害者。这种矛盾本身就很有意思。
或许这就是为什么人类写作仍然有其不可替代的位置。不是因为技术的限制——这些限制终将被突破，而是因为某些经验只能通过人类的身体和情感来理解和表达。就像May在夜里问她的丈夫：“等他们到了我们这个年龄，这个星球还能给他们什么？”这个问题的力量不在于它的修辞，而在于它背后真实的恐惧和爱。
