引言
随着互联网和社交媒体的飞速发展,我们每天都会接触到大量的非结构化数据,如文本、图片和音频等。这些数据中包含了丰富的信息,但也提出了一个重要问题:如何从这些海量数据中提取有用的信息和知识?这就是信息抽取(Information Extraction, IE)的任务。信息抽取不仅是自然语言处理(NLP)的一个核心组成部分,也是许多实际应用的关键技术。
信息抽取概述
信息抽取(IE)旨在从未结构化或半结构化的文本中识别和提取特定类型的信息。信息抽取的主要任务包括:
1. 命名实体识别(NER) : 识别文本中的命名实体,如人名、地点、组织、时间等。
2. 关系抽取(RE):识别文本中实体之间的关系,如“A是B的父亲”。
3. 事件抽取(EE):识别文本中的事件及其与实体的关联。
案例-用飞书多维表格-捷径字段快速批量提取实体
任务1:单次信息提取(智谱清言 https://chatglm.cn/share/FqlM8)

上面任务中,提示词采用具体任务+one-shot(参考示例),当然,当我们需要大量的数据进行批量解析时,可以如何处理呢?当然我们可以通过在提示词中全部把任务提交给大模型,比如智谱最大输入限制目前能到2万,一些大批量任务也是可行的。但本次我们提供一种新的解决方法,利用飞书的多维表格。
任务2:采用飞书多维表格对八千条材料信息进行批量要素提取。

飞书多维表格中,有字段捷径,如上图中的,解析结果-V1字段,采用内置的信息提取字段捷径即可批量进行信息提取了。

当然,以上两个任务中,可能存在的问题有,比如提取的要素不准确,任务1中,同样是抗渗等级,第一次解析成耐久性等级,第二次解析成抗渗等级。商品混凝土,要求解析成供应方式:预拌。可能不满足实际业务要求。任务2中,解析的属性与属性值可能跟实际业务不符。这种情况应该如何改进呢?我们来看任务3。
任务3:要素提取、自定义提取要求,提供更多正、负case
本案例,用提取普通混凝土这一类材料,提取的属性有品类、强度等级、抗渗等级、外加剂类型、是否泵送五个。
以下调整后的提示词:
|
##提取信息 "品类" "强度等级" "抗渗等级" "外加剂类型" "是否泵送" ##输入参考示例 从“混凝土 混凝土强度等级:C10混凝土类型:混凝土外加剂:无材质:现浇混凝土C20” 提取"品类""强度等级""抗渗等级""外加剂类型""是否泵送" 输出: "品类:普通混凝土 强度等级:C10 抗渗等级:null 外加剂类型:null 是否泵送:null" ##自定义提取要求 ##输出格式 品类:xx 强度等级:xx 抗渗等级:xx 外加剂类型:xx 是否泵送:xx ##以下为材料描述中部分关键词的同义词说明 抗渗等级,S=P=W,实例:S4=P4 外加剂类型,膨胀剂=膨胀=膨胀型 是否泵送,非泵送=自卸=自卸车=斗车 ##限制 1、必须按照输出格式要求输出 2、每类提取的信息的要素值只能从属性对于的属性值列表中查找: 品类的属性值包含“普通混凝土”、“特种混凝土”、“防冻混凝土” 强度等级的属性值包含“C7.5”、“C10”、“C15”、“C20”、“C25”、“C30”、“C35”、“C40”、“C45”、“C50”、“C55”、“C60”、“C70”、“C80”、“C85”、“C90”、“C95”、“C100”、“C130” 抗渗等级的属性只包含"P4"、"P6"、"P8"、"P10"、"P12"、"P14"、"P16" 外加剂类型的属性值包含"微膨胀"、"膨胀"、"防冻"、"早强"、"缓凝"、"减水"、"抗渗"、"增塑" 是否泵送的属性值包含“泵送”、“非泵送” 3、没要相应属性值的,输出:null 比如是否泵送,信息提取时没有对应属性与属性值,则输出,是否泵送:null
|
实际输出结果:选取100条数据进行验证,对输出的100条结果进行判定后,准确率100%。

当然,实际的应用案例还有很多,比如以下
-
在医疗领域,信息抽取技术可以用于从临床文档中提取病人的重要信息,以便医生作出更准确的诊断。
-
在金融领域,通过抽取新闻或社交媒体中的关键信息,机器可以更准确地预测股票价格的走势。
-
在法律领域,信息抽取可以帮助律师从大量文档中找出关键证据,从而更有效地构建或驳斥案件。