解码情节: ‘StoryEmb’ 如何教会 AI 理解叙事结构

想象一下，你正在阅读《狮子王》的故事梗概。现在，再想象阅读莎士比亚《哈姆雷特》的梗概。从表面上看，这两个文本毫无相似之处。一个提到了辛巴、木法沙和非洲大草原；另一个则提到了哈姆雷特王子、克劳迪斯国王和丹麦。传统的计算机程序如果只分析词频或表层语义，会告诉你这两个故事完全不同。

但作为人类读者，你明白得更透彻。你识别出了底层的结构: 嫉妒的叔叔杀死了国王，王子被流放，王子归来夺回属于他的位置。即使表层文本不同, 叙事却是惊人地相似。

这种区别——即“发生了什么” (情节事件) 与“如何讲述” (特定的名字、背景和写作风格) 之间的区别——是自然语言处理 (NLP) 面临的一个巨大挑战。大多数嵌入模型容易被关键词干扰。它们会死死盯住角色名字和特定实体。

在这篇文章中，我们将深入探讨一篇名为**“Story Embeddings – Narrative-Focused Representations of Fictional Stories” (故事嵌入——虚构故事的叙事导向表示)** 的论文。我们将探索一种名为 StoryEmb 的新模型，它学会了透过表象细节捕捉故事的“灵魂”。

问题所在: 本事 (Fabula) vs. 叙述 (Syuzhet)

为了理解为什么这对 AI 来说很难，我们必须借用叙事学 (研究叙事结构的学科) 中的一些术语。这里有一个经典的区分:

  1. 本事 (Fabula/Story): 在虚构世界中实际发生的按时间顺序排列的事件序列。
  2. 叙述 (Syuzhet/Discourse): 这些事件如何呈现给读者 (顺序、措辞、风格) 。

标准的文本嵌入 (如 BERT 或标准 E5) 非常擅长表示叙述。如果你把“国王死了”改成“君主去世了”，它们知道这是相似的。但如果你把“国王死了”改成“CEO 被解雇了” (在同一个情节的现代企业版重述中) ，标准模型就很难看出叙事上的等同性，因为词汇差异太大了。

StoryEmb 背后的研究人员希望构建一种能够优先考虑本事——即事件序列——而忽略故事特定“装饰” (如角色名字) 的表示方法。

核心方法: 构建 StoryEmb

如何教会模型忽略名字？强迫它学习名字并不重要。

1. 架构

研究人员并没有从零开始。他们使用了一个基础模型 Mistral-7B , 具体来说是一个针对嵌入进行微调的版本，称为 E5 。 他们使用了一种名为 LoRA (Low-Rank Adaptation，低秩适应) 的技术，这使得在不重新训练每一个参数的情况下高效微调大型模型成为可能。

2. 数据集: “Tell-Me-Again”

要训练一个模型识别用不同文字描述的同一个故事，你需要一个包含……确实如此的数据集。作者利用了 Tell-Me-Again 数据集。这个语料库包含成千上万个故事，每个故事都有多个相关的摘要。

这些摘要来源于维基百科的不同语言版本 (例如，《哈利·波特》的英文摘要和翻译回英文的《哈利·波特》德文摘要) 。由于不同的文化和译者描述情节的方式不同，这些提供了同一叙事的自然变体。

3. “独门秘籍”: 假名化 (Pseudonymization)

这是他们方法中最关键的部分。如果模型在摘要 A 中看到 “Harry Potter”，在摘要 B 中也看到 “Harry Potter”，它会走捷径: 它只会匹配 “Harry Potter” 这个名字而忽略情节。

为了防止这种情况，研究人员采用了 假名化 策略。他们获取摘要并系统地替换实体。在一个版本中，“Harry” 可能变成 “Alice”；在另一个版本中，他可能变成 “Bob”。

通过在这些假名化的文本上训练模型，AI 被迫关注关系和动作 。 它再也不能依赖 “Harry” 这个 token 来进行匹配。它必须学会 “主角 A 打败了反派 B” 才是核心特征，无论他们叫 Harry/Voldemort 还是 Alice/Bob。

4. 训练目标

他们使用了 对比学习 (Contrastive Learning) 。 简单来说，模型会被赋予一个“查询”故事和一批“候选”故事。

  • 正样本对 (Positive Pair): 查询故事与同一个故事的另一个摘要。
  • 负样本对 (Negative Pair): 查询故事与不同故事的摘要。

模型会调整其内部权重，以便在向量空间中将正样本对拉得更近，将负样本对推得更远。

实验: 它有效吗？

研究人员对 StoryEmb 进行了一系列严苛的测试，看看它是否真的比现有的最先进模型更理解叙事。

实验 1: “Tell-Me-Again” 检索任务

第一个测试很直接: 保留 “Tell-Me-Again” 数据集中独特的摘要用于测试。给模型一个摘要，让它从一个巨大的列表中找到它的搭档 (同一个故事的另一个摘要) 。

他们测试了两种场景:

  1. 非假名化 (Non-Pseudonymized): 保留真实姓名 (例如，识别《哈利·波特》) 。
  2. 假名化 (Pseudonymized): 名字被擦除并替换 (例如，识别主角被命名为 “User_1” 的《哈利·波特》情节) 。

结果如下。 P@1 意为 “Precision at 1” (前1准确率) ——模型是否将正确的故事放在了列表的最顶端? P@N 允许更多的余地，检查正确答案是否在在结果的前 N 个中。

表1: Hatzel 和 Bieman (2024) 在 Tell-Me-Again 测试集上的检索性能，包含使用和不使用其匿名化策略的情况。

关键结论: 看左边的 Pseudonymized (假名化) 列。

  • E5 (一个标准的强力模型) 表现崩塌。它的 P@1 只有 33.20% 。 它严重依赖名字。
  • Sentence-T5 (另一个巨型模型) 达到了 67.28% 。
  • StoryEmb + aug (作者使用假名化训练的模型) 达到了 82.60% 。

这是一个巨大的提升。它证明了当你拿走角色名字这根拐杖时，StoryEmb 在识别情节结构方面表现得优越得多。即使在非假名化文本 (右侧) 上，StoryEmb 仍然极具竞争力，表明它并没有失去阅读正常文本的能力。

实验 2: 电影翻拍

在维基百科上训练是一回事，但这能迁移到其他领域吗？研究人员在一个 电影翻拍 (Movie Remakes) 数据集上测试了该模型。这些是原版电影及其翻拍版的摘要 (例如，1960 年版与 2001 年版的《十一罗汉》) 。翻拍版通常会改变对话、背景和节奏，但保留叙事弧线。

表2: 在 Chaturvedi 等人 (2018) 数据集上的测试集检索性能，包含使用和不使用 Hatzel 和 Biemann (2024) 的匿名化策略应用于数据集的情况。“+2 steps”表示额外的两步训练。

关键结论: StoryEmb 树立了新的 最先进水平 (SOTA) 。

  • 之前的最佳模型 (Chaturvedi) 的 P@1 为 63.7% 。
  • StoryEmb (augmented) 达到了 83.26% 。
  • 有趣的是，Sentence-T5 在这里的表现比在上一个任务中更差，这表明它很难泛化到这个特定的电影领域，而 StoryEmb 适应得很好。

实验 3: 重述 (困难模式)

重述不同于翻拍。一个重述可能会把《傲慢与偏见》搬到现代的洛杉矶。主题相符，但场景可能截然不同。研究人员整理了一个小型的、高难度的文学重述数据集。

表7: 第 4.1.3 节介绍的重述数据集上的检索性能

关键结论: 在这里，我们看到了局限性。在这个特定的“重述”数据集上，巨大的 Sentence-T5XXL 模型实际上表现优于 StoryEmb (P@1 为 70% vs 56.67%) 。

为什么？研究人员推测，在非常小的数据集 (只有 30 个摘要) 中，特定的关键词和残留的实体提示变成了非常强大的判别器。“词袋”方法 (匹配特定术语) 在这里帮助了 T5。然而，StoryEmb 仍然显著优于基础 E5 模型 (36.67%) ，表明它确实在学习叙事，只是在这个特定的微型数据集上可能不足以击败一个巨型模型。

实验 4: 叙事理解 (ROCStories)

这可能是最迷人的实验，因为它测试的是“常识”。 ROCStories 完形填空任务 (Cloze Task) 给计算机一个 4 句话的故事和两个可能的结尾。

  • *结尾 1: * 逻辑上顺承情节。
  • *结尾 2: * 使用了相似的词汇，但在叙事上说不通。

StoryEmb 并没有 被训练来对结尾进行分类。它只是一个嵌入模型。为了解决这个问题，研究人员使用了一个巧妙的基于距离的技巧，定义如下公式:

根据距离决定正确故事结尾的公式。

解读: 他们计算目前为止的故事 (\(a\)) 与两个可能的完整故事 (\(s_1\) 和 \(s_2\)) 之间的“距离”(\(d\))。

  • 如果到 \(s_1\) 的距离更小，选 \(s_1\)。
  • 如果到 \(s_2\) 的距离更小，选 \(s_2\)。

其逻辑是，一个连贯的故事在向量空间中应该比一个不连贯的故事形成更紧密的聚类。

表5: 我们在 ROCStories 数据集上列出了从两个选项中挑选正确故事结尾的准确率。上标表示使用了第 4.2 节概述的嵌入距离方法，并在开发集上进行了评估。GPT-3 和 FLAN 的结果取自 Wei 等人 (2022)，有监督的 RoBERTa 结果取自 Jiang 等人 (2023b)。

关键结论: StoryEmb 达到了 89.4% 的准确率 (零样本) 。

  • 它击败了基础 E5 模型 (78.5%)。
  • 它在零样本设置下击败了 GPT-3 (83.2%)。
  • 它的表现几乎与那些显式使用“少样本”提示的模型一样好。

这证实了 StoryEmb 不仅仅是在匹配关键词；它已经获得了一种真正的叙事流感。它知道“摔倒”通常会导致“受伤”，而不是“飞走”，并将这种可能性编码到了嵌入中。

深入探究: 为什么有效？

我们知道 StoryEmb 有效，但它是如何做到的？研究人员使用了 归因分析 (attribution analysis) 。 这项技术观察句子中的哪些词对相似度分数的贡献最大。

如果模型按预期工作，它应该更少关注名字，而更多关注动作 (动词) 和角色。

研究人员可视化了 StoryEmb 和原始 E5 模型之间的“Delta” (差值) 。在下面的热力图中, 红色意味着 StoryEmb 对这个词的关注度比 E5 低。 蓝色意味着它关注度更高。

图1: 我们 StoryEmb 模型最后一层单个 token 的归因分数，显示为相对于 E5 模型的差值。负分表示该 token 对 StoryEmb 模型中相似度的贡献较小。在该示例中，很明显命名实体受到的重视程度降低了。

看左上角。名字 “Alice” 是深红色的。StoryEmb 已经学会了降低特定名字 “Alice” 的权重。

现在，看看跨越许多句子的汇总数据:

表6: 在 E5 和 StoryEmb 模型的第 31 层分析了选定的命名实体和词性标签对句子相似度的平均贡献。统计数据不包括我们的任务前缀。

关键结论:

  • PROPN (专有名词): 负差值。模型更多地忽略了它们。
  • VERB (动词): 正差值。模型更关注正在发生什么。
  • PERSON / ORG (人名/组织): 负差值。特定的实体不再那么重要。

这些数据提供了确凿的证据，证明假名化训练策略成功了。模型本质上重新连接了它的注意力机制，以聚焦于情节 (动词、普通名词) 而不是演员表 (专有名词、人名) 。

结论

StoryEmb 代表了计算机处理虚构作品方式的一个重要进步。通过摆脱表层的关键词匹配，并强迫模型处理假名化文本，研究人员创造了一个嵌入空间，在这个空间里， (假设地) 《哈姆雷特》和《狮子王》的位置比《哈姆雷特》和一本关于真正的丹麦王子的传记要靠得更近。

关键要点:

  1. 叙事重于名字: 通过在训练期间剥离实体名称，可以训练 NLP 识别情节结构。
  2. 数据增强有效: 交换名字 (Alice/Bob) 的“Tell-Me-Again”策略是一种引导模型关注语义结构的强大方法。
  3. 泛化能力: 一个在维基百科摘要上训练的模型可以成功识别电影翻拍并预测合理的故事结局，展示了稳健的叙事理解能力。

随着我们迈向能够写作、评论或推荐文学作品的 AI，像 StoryEmb 这样的工具将至关重要。它们弥合了仅仅阅读文字与真正理解故事之间的差距。