文章目录
本文学习目标一. NER1.1 什么是命名实体识别:1.2 命名实体识别的作用:1.3 命名实体识别常用方法:1.4 医学文本特征: 二、 BiLSTM2.1 学习目标:2.2 BiLSTM网络结构:2.3 BiLSTM模型实现:2.3.1 第一步: 实现类的初始化和网络结构的搭建.2.3.2 第二步:实现文本向量化的函数2.3.3 第三步: 实现网络的前向计算 总结:
本文学习目标
了解什么是命名实体识别了解命名实体识别的作用了解命名实体识别常用方法了解医学文本特征一. NER
1.1 什么是命名实体识别:
命名实体识别(Named Entity Recognition，NER)就是从一段自然语言文本中找出相关实体，并标注出其位置以及类型。是信息提取, 问答系统, 句法分析, 机器翻译等应用领域的重要基础工具, 在自然语言处理技术走向实用化的过程中占有重要地位. 包含行业, 领域专有名词, 如人名, 地名, 公司名, 机构名, 日期, 时间, 疾病名, 症状名, 手术名称, 软件名称等。具体可参看如下示例图：
1.2 命名实体识别的作用:
识别专有名词, 为文本结构化提供支持.
主体识别, 辅助句法分析.
实体关系抽取, 有利于知识推理.
1.3 命名实体识别常用方法:
基于规则: 针对有特殊上下文的实体, 或实体本身有很多特征的文本, 使用规则的方法简单且有效. 比如抽取文本中物品价格, 如果文本中所有商品价格都是“数字+元”的形式, 则可以通过正则表达式”\d*.?\d+元”进行抽取. 但如果待抽取文本中价格的表达方式多种多样, 例如“一千八百万”, “伍佰贰拾圆”, “2000万元”, 遇到这些情况就要修改规则来满足所有可能的情况. 随着语料数量的增加, 面对的情况也越来越复杂, 规则之间也可能发生冲突, 整个系统也可能变得不可维护. 因此基于规则的方式比较适合半结构化或比较规范的文本中的进行抽取任务, 结合业务需求能够达到一定的效果.缺点: 适用性差, 维护成本高后期甚至不能维护.
优点: 简单, 快速.
基于模型: 从模型的角度来看, 命名实体识别问题实际上是序列标注问题. 序列标注问题指的是模型的输入是一个序列, 包括文字, 时间等, 输出也是一个序列. 针对输入序列的每一个单元, 输出一个特定的标签. 以中文分词任务进行举例, 例如输入序列是一串文字: “我是中国人”, 输出序列是一串标签: “OOBII”, 其中"BIO"组成了一种中文分词的标签体系: B表示这个字是词的开始, I表示词的中间到结尾, O表示其他类型词. 因此我们可以根据输出序列"OOBII"进行解码, 得到分词结果"我\是\中国人".序列标注问题涵盖了自然语言处理中的很多任务, 包括语音识别, 中文分词, 机器翻译, 命名实体识别等, 而常见的序列标注模型包括HMM, CRF, RNN, LSTM, GRU等模型.
其中在命名实体识别技术上, 目前主流的技术是通过BiLSTM+CRF模型进行序列标注, 也是项目中要用到的模型.
1.4 医学文本特征:
简短精炼
形容词相对较少
泛化性相对较小
医学名词错字率比较高
同义词、简称比较多
二、 BiLSTM
2.1 学习目标:
了解BiLSTM网络结构.
掌握BiLSTM模型实现.
2.2 BiLSTM网络结构:
所谓的BiLSTM，就是(Bidirectional LSTM)双向LSTM. 单向的LSTM模型只能捕捉到从前向后传递的信息, 而双向的网络可以同时捕捉正向信息和反向信息, 使得对文本信息的利用更全面, 效果也更好.
在BiLSTM网络最终的输出层后面增加了一个线性层, 用来将BiLSTM产生的隐藏层输出结果投射到具有某种表达标签特征意义的区间, 具体如下图所示：
2.3 BiLSTM模型实现:
第一步: 实现类的初始化和网络结构的搭建.
第二步: 实现文本向量化的函数.
第三步: 实现网络的前向计算.
2.3.1 第一步: 实现类的初始化和网络结构的搭建.
# 本段代码构建类BiLSTM, 完成初始化和网络结构的搭建# 总共3层: 词嵌入层, 双向LSTM层, 全连接线性层import torchimport torch.nn as nnclass BiLSTM(nn.Module): """ description: BiLSTM 模型定义 """ def __init__(self, vocab_size, tag_to_id, input_feature_size, hidden_size, batch_size, sentence_length, num_layers=1, batch_first=True): """ description: 模型初始化 :param vocab_size: 所有句子包含字符大小 :param tag_to_id: 标签与 id 对照 :param input_feature_size: 字嵌入维度( 即LSTM输入层维度 input_size ) :param hidden_size: 隐藏层向量维度 :param batch_size: 批训练大小 :param sentence_length 句子长度 :param num_layers: 堆叠 LSTM 层数 :param batch_first: 是否将batch_size放置到矩阵的第一维度 """ # 类继承初始化函数 super(BiLSTM, self).__init__() # 设置标签与id对照 self.tag_to_id = tag_to_id # 设置标签大小, 对应BiLSTM最终输出分数矩阵宽度 self.tag_size = len(tag_to_id) # 设定LSTM输入特征大小, 对应词嵌入的维度大小 self.embedding_size = input_feature_size # 设置隐藏层维度, 若为双向时想要得到同样大小的向量, 需要除以2 self.hidden_size = hidden_size // 2 # 设置批次大小, 对应每个批次的样本条数, 可以理解为输入张量的第一个维度 self.batch_size = batch_size # 设定句子长度 self.sentence_length = sentence_length # 设定是否将batch_size放置到矩阵的第一维度, 取值True, 或False self.batch_first = batch_first # 设置网络的LSTM层数 self.num_layers = num_layers # 构建词嵌入层: 字向量, 维度为总单词数量与词嵌入维度 # 参数: 总体字库的单词数量, 每个字被嵌入的维度 self.embedding = nn.Embedding(vocab_size, self.embedding_size) # 构建双向LSTM层: BiLSTM (参数: input_size 字向量维度(即输入层大小), # hidden_size 隐藏层维度, # num_layers 层数, # bidirectional 是否为双向, # batch_first 是否批次大小在第一位) self.bilstm = nn.LSTM(input_size=input_feature_size, hidden_size=self.hidden_size, num_layers=num_layers, bidirectional=True, batch_first=batch_first) # 构建全连接线性层: 将BiLSTM的输出层进行线性变换 self.linear = nn.Linear(hidden_size, self.tag_size)输入参数:
# 参数1:码表与id对照char_to_id = {"双": 0, "肺": 1, "见": 2, "多": 3, "发": 4, "斑": 5, "片": 6, "状": 7, "稍": 8, "高": 9, "密": 10, "度": 11, "影": 12, "。": 13}# 参数2:标签码表对照tag_to_id = {"O": 0, "B-dis": 1, "I-dis": 2, "B-sym": 3, "I-sym": 4}# 参数3:字向量维度EMBEDDING_DIM = 200# 参数4:隐层维度HIDDEN_DIM = 100# 参数5:批次大小BATCH_SIZE = 8# 参数6:句子长度SENTENCE_LENGTH = 20# 参数7:堆叠 LSTM 层数NUM_LAYERS = 1调用:
# 初始化模型model = BiLSTM(vocab_size=len(char_to_id), tag_to_id=tag_to_id, input_feature_size=EMBEDDING_DIM, hidden_size=HIDDEN_DIM, batch_size=BATCH_SIZE, sentence_length=SENTENCE_LENGTH, num_layers=NUM_LAYERS)print(model)输出效果:
BiLSTM( (embedding): Embedding(14, 200) (bilstm): LSTM(200, 50, batch_first=True, bidirectional=True) (linear): Linear(in_features=100, out_features=5, bias=True))2.3.2 第二步:实现文本向量化的函数
# 本函数实现将中文文本映射为数字化的张量def sentence_map(sentence_list, char_to_id, max_length): """ description: 将句子中的每一个字符映射到码表中 :param sentence: 待映射句子, 类型为字符串或列表 :param char_to_id: 码表, 类型为字典, 格式为{"字1": 1, "字2": 2} :return: 每一个字对应的编码, 类型为tensor """ # 字符串按照逆序进行排序, 不是必须操作 sentence_list.sort(key=lambda c:len(c), reverse=True) # 定义句子映射列表 sentence_map_list = [] for sentence in sentence_list: # 生成句子中每个字对应的 id 列表 sentence_id_list = [char_to_id[c] for c in sentence] # 计算所要填充 0 的长度 padding_list = [0] * (max_length-len(sentence)) # 组合 sentence_id_list.extend(padding_list) # 将填充后的列表加入句子映射总表中 sentence_map_list.append(sentence_id_list) # 返回句子映射集合, 转为标量 return torch.tensor(sentence_map_list, dtype=torch.long)输入参数:
# 参数1:句子集合sentence_list = [ "确诊弥漫大b细胞淋巴瘤1年", "反复咳嗽、咳痰40年,再发伴气促5天。", "生长发育迟缓9年。", "右侧小细胞肺癌第三次化疗入院", "反复气促、心悸10年,加重伴胸痛3天。", "反复胸闷、心悸、气促2多月,加重3天", "咳嗽、胸闷1月余, 加重1周", "右上肢无力3年, 加重伴肌肉萎缩半年"]# 参数2:码表与id对照char_to_id = {"<PAD>":0}# 参数3:句子长度SENTENCE_LENGTH = 20调用:
if __name__ == '__main__': for sentence in sentence_list: # 获取句子中的每一个字 for _char in sentence: # 判断是否在码表 id 对照字典中存在 if _char not in char_to_id: # 加入字符id对照字典 char_to_id[_char] = len(char_to_id) # 将句子转为 id 并用 tensor 包装 sentences_sequence = sentence_map(sentence_list, char_to_id, SENTENCE_LENGTH) print("sentences_sequence:\n", sentences_sequence)输出效果:
sentences_sequence:tensor([[14, 15, 16, 17, 18, 16, 19, 20, 21, 13, 22, 23, 24, 25, 26, 27, 28, 29, 30, 0], [14, 15, 26, 27, 18, 49, 50, 12, 21, 13, 22, 51, 52, 25, 53, 54, 55, 29, 30, 0], [14, 15, 53, 56, 18, 49, 50, 18, 26, 27, 57, 58, 59, 22, 51, 52, 55, 29, 0, 0], [37, 63, 64, 65, 66, 55, 13, 22, 61, 51, 52, 25, 67, 68, 69, 70, 71, 13, 0, 0], [37, 38, 39, 7, 8, 40, 41, 42, 43, 44, 45, 46, 47, 48, 0, 0, 0, 0, 0, 0], [16, 17, 18, 53, 56, 12, 59, 60, 22, 61, 51, 52, 12, 62, 0, 0, 0, 0, 0, 0], [ 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 0, 0, 0, 0, 0, 0, 0], [31, 32, 24, 33, 34, 35, 36, 13, 30, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]])2.3.3 第三步: 实现网络的前向计算
# 本函数实现类BiLSTM中的前向计算函数forward()def forward(self, sentences_sequence): """ description: 将句子利用BiLSTM进行特征计算，分别经过Embedding->BiLSTM->Linear， 获得发射矩阵（emission scores） :param sentences_sequence: 句子序列对应的编码， 若设定 batch_first 为 True， 则批量输入的 sequence 的 shape 为(batch_size, sequence_length) :return: 返回当前句子特征，转化为 tag_size 的维度的特征 """ # 初始化隐藏状态值 h0 = torch.randn(self.num_layers * 2, self.batch_size, self.hidden_size) # 初始化单元状态值 c0 = torch.randn(self.num_layers * 2, self.batch_size, self.hidden_size) # 生成字向量， shape 为(batch, sequence_length, input_feature_size) # 注：embedding cuda 优化仅支持 SGD 、 SparseAdam input_features = self.embedding(sentences_sequence) # 将字向量与初始值(隐藏状态 h0 , 单元状态 c0 )传入 LSTM 结构中 # 输出包含如下内容： # 1, 计算的输出特征，shape 为(batch, sentence_length, hidden_size) # 顺序为设定 batch_first 为 True 情况, 若未设定则 batch 在第二位 # 2, 最后得到的隐藏状态 hn ， shape 为(num_layers * num_directions, batch, hidden_size) # 3, 最后得到的单元状态 cn ， shape 为(num_layers * num_directions, batch, hidden_size) output, (hn, cn) = self.bilstm(input_features, (h0, c0)) # 将输出特征进行线性变换，转为 shape 为 (batch, sequence_length, tag_size) 大小的特征 sequence_features = self.linear(output) # 输出线性变换为 tag 映射长度的特征 return sequence_features输入参数:
# 参数1:标签码表对照tag_to_id = {"O": 0, "B-dis": 1, "I-dis": 2, "B-sym": 3, "I-sym": 4}# 参数2:字向量维度EMBEDDING_DIM = 200# 参数3:隐层维度HIDDEN_DIM = 100# 参数4:批次大小BATCH_SIZE = 8# 参数5:句子长度SENTENCE_LENGTH = 20# 参数6:堆叠 LSTM 层数NUM_LAYERS = 1char_to_id = {"<PAD>":0}SENTENCE_LENGTH = 20调用:
if __name__ == '__main__': for sentence in sentence_list: for _char in sentence: if _char not in char_to_id: char_to_id[_char] = len(char_to_id) sentence_sequence = sentence_map(sentence_list, char_to_id, SENTENCE_LENGTH) model = BiLSTM(vocab_size=len(char_to_id), tag_to_id=tag_to_id, input_feature_size=EMBEDDING_DIM, \ hidden_size=HIDDEN_DIM, batch_size=BATCH_SIZE, sentence_length=SENTENCE_LENGTH, num_layers=NUM_LAYERS) sentence_features = model(sentence_sequence) print("sequence_features:\n", sentence_features)输出效果:
sequence_features:tensor([[[ 4.0880e-02, -5.8926e-02, -9.3971e-02, 8.4794e-03, -2.9872e-01], [ 2.9434e-02, -2.5901e-01, -2.0811e-01, 1.3794e-02, -1.8743e-01], [-2.7899e-02, -3.4636e-01, 1.3382e-02, 2.2684e-02, -1.2067e-01], [-1.9069e-01, -2.6668e-01, -5.7182e-02, 2.1566e-01, 1.1443e-01], ... [-1.6844e-01, -4.0699e-02, 2.6328e-02, 1.3513e-01, -2.4445e-01], [-7.3070e-02, 1.2032e-01, 2.2346e-01, 1.8993e-01, 8.3171e-02], [-1.6808e-01, 2.1454e-02, 3.2424e-01, 8.0905e-03, -1.5961e-01], [-1.9504e-01, -4.9296e-02, 1.7219e-01, 8.9345e-02, -1.4214e-01]], ... [[-3.4836e-03, 2.6217e-01, 1.9355e-01, 1.8084e-01, -1.6086e-01], [-9.1231e-02, -8.4838e-04, 1.0575e-01, 2.2864e-01, 1.6104e-02], [-8.7726e-02, -7.6956e-02, -7.0301e-02, 1.7199e-01, -6.5375e-02], [-5.9306e-02, -5.4701e-02, -9.3267e-02, 3.2478e-01, -4.0474e-02], [-1.1326e-01, 4.8365e-02, -1.7994e-01, 8.1722e-02, 1.8604e-01], ... [-5.8271e-02, -6.5781e-02, 9.9232e-02, 4.8524e-02, -8.2799e-02], [-6.8400e-02, -9.1515e-02, 1.1352e-01, 1.0674e-02, -8.2739e-02], [-9.1461e-02, -1.2304e-01, 1.2540e-01, -4.2065e-02, -8.3091e-02], [-1.5834e-01, -8.7316e-02, 7.0567e-02, -8.8845e-02, -7.0867e-02]], [[-1.4069e-01, 4.9171e-02, 1.4314e-01, -1.5284e-02, -1.4395e-01], [ 6.5296e-02, 9.3255e-03, -2.8411e-02, 1.5143e-01, 7.8252e-02], [ 4.1765e-03, -1.4635e-01, -4.9798e-02, 2.7597e-01, -1.0256e-01], ... [-3.9810e-02, -7.6746e-03, 1.2418e-01, 4.9897e-02, -8.4538e-02], [-3.4474e-02, -1.0586e-02, 1.3861e-01, 4.0395e-02, -8.3676e-02], [-3.4092e-02, -2.3208e-02, 1.6097e-01, 2.3498e-02, -8.3332e-02], [-4.6900e-02, -5.0335e-02, 1.8982e-01, 3.6287e-03, -7.8078e-02], [-6.4105e-02, -4.2628e-02, 1.8999e-01, -2.9888e-02, -1.1875e-01]]], grad_fn=<AddBackward0>)输出结果说明: 该输出结果为输入批次中句子的特征, 利用线性变换分别对应到每个tag的得分. 例如上述标量第一个值：[ 4.0880e-02, -5.8926e-02, -9.3971e-02, 8.4794e-03, -2.9872e-01]表示的意思为第一个句子第一个字分别被标记为[“O”, “B-dis”, “I-dis”, “B-sym”, “I-sym”]的分数, 由此可以判断, 在这个例子中, 第一个字被标注为"O"的分数最高.
总结:
添加文本向量化的辅助函数, 注意padding填充为相同长度的Tensor
要注意forward函数中不同张量的形状约定
设置隐藏层维度的时候, 需要将hidden_size // 2
总共有3层需要构建, 分别是词嵌入层, 双向LSTM层, 全连接线性层
在代码层面, 双向LSTM就是将nn.LSTM()中的参数bidirectional设置为True
