博雯 发自 凹非寺

量子位 报道 | 公众号 QbitAI

现在，AI能帮你200字看完一段12万词的长篇小说了！

比如这样一段121567词的《傲慢与偏见》原文：

其中只有叶子任务会对书籍中的原始文本进行操作。

并且，已生成的摘要应该放在同一深度，并按照顺序串联起来。

比如上图中的蓝色任务的先前总结输出就用虚线来表示，这样，每一个摘要都是自然地从上一层任务（前文）流出，以保证那些相距较远的段落能够真正地“联系上下文”。

接下来开始训练：

其中，所有训练数据都来自GPT-3中的书籍部分。

研究人员会跳过非叙事性书籍，尽量选择小说类（平均包含超过10万个单词），因为这些上下文关联性更强的文本对总结任务来说更难。

这一训练过程可以使用新的模型、不同的节点采样策略、不同的训练数据类型（演示和比较）来迭代。

对于演示用的数据，使用标准的交叉熵损失函数进行行为克隆（BC）。

对于比较数据，则通过强化学习（RL）来对抗一个专为人类偏好而训练的奖励模型。

强化学习也有三种变体的抽样任务：

训练完成后进行总结，任务的最终目的是追溯出叙述的时间线和整体主题。

每个摘要子任务的目标是将文本压缩5到10倍，长度上限为128到384个符号。

实验阶段，研究人员使用了Goodreads 2020榜单上的40本最受欢迎的书籍，其中囊括了幻想、恐怖、爱情、推理等近20个类型。

然后让两名人类研究员和模型同时进行总结，要求双方的摘要质量的一致性接近于80%。

模型规模分为175B和6B两种，且训练模式也分为上述的强化学习的三种变体任务。

最后结果中，可以看到第一棵子树RL和全树RL的总结任务最接近于人类的水平：

并且，也有超过5%的175B模型的摘要被打到了6分（满分7分），超过15%的摘要被打到5分：

论文：https://arxiv.org/abs/2109.10862

OpenAI官网介绍：https://openai.com/blog/summarizing-books/

参考链接：https://venturebeat.com/2021/09/23/openai-unveils-model-that-can-summarize-books-of-any-length/

— 完 —

量子位 QbitAI · 头条号签约

关注我们，第一时间获知前沿科技动态

花粉社群VIP加油站