
本文来自微信公众号: 碳基智 ,作者:碳基智
两年前我参加了机械工业出版社的年度作译者大会,了解到了出版行业所面临的挑战与困境,总体上看,整个行业是很明显走在下行路线上的。机工社是国内在计算机科学等方面做得很突出的出版社,很多高校在使用的计算机教材也是机工社出的,但这样的头部出版社的日子都不好过。
我还有一个朋友,毕业以后就去了北京的某出版集团,这两年年终奖也是从晚发到不发,集团也开始了改制,员工都要去二级单位下放挂职,美其名曰锻炼,不愿意接受的,年纪大的可以提前退休,没到年纪的可以协商离职拿大礼包。
出版行业的境遇已经大不如前,AI时代下出一本书的周期尚且还要3个月左右的流程,而从openclaw刚开始火到无人问津的时间,满打满算都到不了3个月。人类学习的主流方式,已经从阅读书籍转向AI交互了。一句简单的“豆包豆包”,比买一本书,翻到具体的章节,再去自己思考咀嚼文字,沉淀为自己的知识,省心太多。
但最近,事情有了新的变化。
1
在生成式AI大行其道之前,互联网上的信息爆炸已经持续发生了很多年,人类生产者各种各样的文本数据,文章也好、商品说明也好、论坛撕逼盖楼也好、包括所谓的内容农场生成的各种垃圾信息,归根结底的默认前提还是——由人或团队组成。
但当生成式AI开始流行之后,这个前提失效了。互联网史上积累的海量文本数据,迅速地被模型训练这个无底洞给吃空了,以至于现在甚至是AI生成语料数据以供AI训练,一整个左脚踩右脚,武当梯云纵了。模型数据团队面对的问题从“哪里还有更多文字”变成了,“这些字究竟从哪里来”。
这时,纸质旧书说,Now you see me。
2022年后,各大内容平台的AI过拟合现象已经开始达到令人发指的状态:无论是各类文章文案中的不是而是句式,还是各大短视频平台的AI短剧中,男男女女老老少少,同样的皱眉瞪眼表情神态,都说明了同样的一个问题,当模型训练数据开始趋同时,AI的外显表现将会产生令人不适的特征,说人话就是没有活人感。
前一阵看到雨果奖得主郝景芳说自己最新小说一半由AI完成,这令我非常反感。但凡你在写作方面深度使用过AI,你就能知道AI写不出一个稍微有点文字审美追求人所能接受的东西。
2022年前出版的旧书,不能保证内容正确,也不能保证写得好,却能在很大程度上排除现代生成式AI参与到正文生产流程。对训练团队来说,这种排除能力就是确定性。
当互联网上的训练语料已经被穷尽时,那些没有被传到网上的,冷门的、无人问津的旧书,反而开始值钱了。
2
旧书的优势常被缩成一句“没有AI污染”,这只说完了一半。互联网上没有被AI“改造”过的旧网页也很多,其中照样充满转载、营销软文、断章取义、标题党和没人校对的废话。
纸质出版物真正有用的地方,在于它通常经过一条专业的生产链的检验:作者完成长篇表达,编辑判断是否值得出版,校对处理错误,章节结构维持上下文,出版社承担品牌和法律责任。
从机器学习的视角看,这套流程很像人类提前完成的筛选、标注和格式化。一本三百页的书围绕同一主题展开,术语和叙述口径相对稳定,论证能跨越数万字保持上下文。
普通网页往往只有几百字,链接失效、广告插入、页面模板和SEO内容又制造大量噪音。书籍当然并不天然正确,出版业也出过无数烂书,但从平均来看,它依然提供了比随机网页更密集、更连续的语言信号,而这,对大语言模型就是足够珍贵的价值。
3
传统旧书市场里,冷门通常意味着卖不动,但模型训练改变了这个关系。
畅销名著已经被多次数字化、引用、节选和讨论,它们很可能重复出现在公开语料中;一本地方铁路志、九十年代软件手册、少数语种植物图谱或绝版行业年鉴,读者很少,反而可能提供模型从未见过的术语、事实和表达。
Nature 2024年关于模型坍塌的研究解释了这个现象。模型递归学习模型生成的数据时,最早丢失的是原始分布的尾部,也就是低概率事件和少见表达。高频内容会越来越高频,冷门知识更容易被抹掉。研究还发现,保留一部分原始训练数据能明显减轻退化。对下一代模型来说,旧书的价值不只在干净纯粹,还在于保存那些统计意义上不常见的东西。
西班牙书商Marçal Font发现,有买家愿意为四本长期积压的加泰罗尼亚语非虚构支付35欧元书款和67欧元运费。荷兰书商收到的清单包含指定语言和版本。相关买家的真实用途仍有争议,Zoom Books也公开否认参与AI抓取;这些订单至少说明,过去由终端读者决定的“有没有用”,正在被另一套采购标准改写。
冷门旧书没有突然拥有更多读者。它只是突然拥有了一个不阅读、却愿意为稀有信息付钱的新买家,并且这个买家又有钱,胃口还大得惊人。
A÷就曾花费数百万美元购买数百万本纸质书,拆解扫描,每本生成带有机器可读文本的PDF,它还从盗版库里取得大量电子书,用于模型训练。
而因为它干过的这些事,让它在和解时支付了超过15亿美刀的费用,但它老老实实掏钱买的作为训练用途的,则被法院认定是可以支持的。
这还是挺有意思的,你觉得类似这样的现象还会发生在哪些领域?
如涉及版权问题请联系 hezuo@huxiu.com,我们将及时核实并处理。