NLP教程(7) – 问答系统

技术分享 3年前 (2022-05-12) 0 999+

关注

作者：韩信子@ShowMeAI
教程地址：http://www.showmeai.tech/tutorials/36
本文地址：http://www.showmeai.tech/article-detail/245
声明：版权所有，转载请联系平台与作者并注明出处
收藏ShowMeAI查看更多精彩内容

本系列为斯坦福CS224n《自然语言处理与深度学习(Natural Language Processing with Deep Learning)》的全套学习笔记，对应的课程视频可以在这里查看。

斯坦福CS224n这里

ShowMeAI为CS224n课程的全部课件，做了中文翻译和注释，并制作成了 GIF动图！点击 第10讲-NLP中的问答系统 查看的课件注释与带学解读。更多资料获取方式见文末。

ShowMeAI中文翻译和注释第10讲-NLP中的问答系统

引言

CS224n是顶级院校斯坦福出品的深度学习与自然语言处理方向专业课程，核心内容覆盖RNN、LSTM、CNN、transformer、bert、问答、摘要、文本生成、语言模型、阅读理解等前沿内容。

本篇笔记对应斯坦福CS224n自然语言处理专项课程的知识板块：问答系统。主要针对NLP中的问答系统场景，介绍了一些模型和思路。

笔记核心词

question answering
Dynamic Memory Networks 动态记忆网络
QA
问答
对话
MemNN
DCN
VQA

1.图文问答系统与动态记忆网络( DMN )

QA 系统的概念是直接从文档、对话、在线搜索等中提取信息(有时是段落，或是单词的范围)，以满足用户的信息需求。 QA 系统不需要用户通读整个文档，而是倾向于给出一个简短的答案。

现在， QA 系统可以很容易地与其他 NLP 系统(如聊天机器人)结合起来，有些 QA 系统甚至超越了文本文档的搜索，可以从一组图片中提取信息。

有很多类型的问题，其中最简单的是 Factoid Question Answering 事实类问题回答。它包含的问题看起来像

The symbol for mercuric oxide is?(氧化汞的符号是什么？)
Which NFL team represented the AFC at Super Bowl 50?(哪支NFL球队代表AFC参加超级碗50赛？)

当然还有其他类型的问题，如数学问题((2+3=?))、逻辑问题，这些问题需要广泛的推理(而且没有背景信息)。然而，我们可以说在人们的日常生活中，寻求信息的事实类问题回答是最常见的问题。

事实上，大多数 NLP 问题都可以看作是一个问答问题，其范式很简单：

我们发出一个查询，然后机器提供一个响应。通过阅读文档或一组指令，智能系统应该能够回答各种各样的问题。
我们可以要求句子的 POS 标签，我们可以要求系统用不同的语言来响应。

因此，很自然地，我们想设计一个可以用于一般 QA 的模型。

为了实现这一目标，我们面临两大障碍。

① 许多NLP任务使用不同的架构，如TreeLSTM (Tai et al., 2015)用于情绪分析，Memory Network (Weston et al., 2015) 用于回答问题，以及双向LSTM-CRF (Huang et al., 2015) 用于词性标注。
② 全面的多任务学习往往非常困难，迁移学习仍然是当前人工智能领域(计算机视觉、强化学习等)神经网络架构的主要障碍。

我们可以使用NLP的共享体系结构来解决第一个问题：动态内存网络( DMN )，这是一种为一般 QA 任务设计的体系结构。 QA 很难，部分原因是阅读一段很长的文字很难。即使对于人类，我们也不能在你的工作记忆中存储一个很长的文档。

1.1 输入模块

将 DMN 分为多个模块。首先我们来看输入模块。输入模块以单词序列 (T_I) 作为输入，输出事实表示序列 (T_C)。如果输出是一个单词列表，我们有 (T_C = T_I)。如果输出是一个句子列表，我们有 (T_C) 作为句子的数量， (T_I) 作为句子中的单词数量。我们使用一个简单的 GRU 来读取其中的句子，即隐藏状态 (h_{t}=operatorname{GRU}left(x_{t}, h_{t-1}right))，其中 (x_{t}=Lleft[w_{t}right])， (L) 为嵌入矩阵，(w_t) 为 (t) 时刻的单词，我们使用 Bi- GRU 进一步改进，如下图所示。

（本部分DMN网络频繁使用到GRU结构，具体的GRU细节讲解可以查看ShowMeAI的对吴恩达老师课程的总结文章深度学习教程 | 序列模型与RNN网络，也可以查看本系列的前序文章NLP教程(5) - 语言模型、RNN、GRU与LSTM）

1.2 问题读取模块

我们也使用标准的 GRU 来读取问题(使用嵌入矩阵 (L : q_{t}=operatorname{GRU}left(Lleft[w_{t}^{Q}right], q_{t-1}right)))，但是问题模块的输出是问题的编码表示。

1.3 情景记忆模块

动态记忆网络的一个显著特征是情景记忆模块，它在输入序列上运行多次，每次关注输入的不同事实子集。它使用 Bi- GRU 实现这一点， Bi- GRU 接收输入模块传入的句子级别表示的输入，并生成情景记忆表示。

我们将情景记忆表征表示为 (m^i)，情景表征(由注意机制输出)表示为 (e^i)。情景记忆表示使用 (m^0 = q) 初始化，然后继续使用 (mathrm{GRU} : m^{i}=mathrm{GRU}left(e^{i}, m^{i-1}right))。使用来自输入模块的隐藏状态输出更新情景表征，如下所示，其中 (g) 是注意机制。

[begin{aligned} h_{t}^{i} &=g_{t}^{i} operatorname{GRU}left(c_{t}, h_{t-1}^{i}right)+left(1-g_{t}^{i}right) h_{t-1}^{i} \ e_{i} &=h_{T_{mathrm{C}}}^{i} end{aligned} ]

注意向量 (g) 的计算方法有很多，但是在原始的 DMN 论文(Kumar et al. 2016)中，我们发现以下公式是最有效的

[g_{t}^{i} =Gleft(c_{t}, m^{i-1}, qright) ]

[G(c, m, q) =sigma left(W^{(2)} tanh left(W^{(1)} z(c, m, q)+b^{(1)}right)+b^{(2)}right) ]

[z(c, m, q) =left[c, m, q, c circ q, c circ m,|c-q|,|c-m|, c^{T} W^{(b)} q_{,} c^{T} W^{(b)} mright] ]

这样，如果句子与问题或记忆有关，这个模块中的门就会被激活。在第 (i) 遍中，如果总结不足以回答问题，我们可以在第 (i +1) 遍中重复输入序列。

例如，考虑这样一个问题 Where is the football? 以及输入序列 John kicked the football 和 John was in the ﬁeld。在这个例子中，John和football可以在一个pass中连接，然后John和field可以在第二个pass中连接，这样网络就可以根据这两个信息进行传递推断。

1.4 回答模块

回答模块是一个简单的 GRU 解码器，它接收问题模块、情景记忆模块的输出，并输出一个单词(或者通常是一个计算结果)。其工作原理如下:

[begin{aligned} y_{t} &=operatorname{softmax}left(W^{(a)} a_{t}right) \ a_{t} &=operatorname{GRU}left(left[y_{t-1}, qright], a_{t-1}right) end{aligned} ]