基于预训练模型和自动感受野的关键词抽取方法与系统(人工智能AI、文本挖掘、预训练模型、文档理解,电子书、文本关键词提取)
发明专利本发明公开了基于预训练模型和自动感受野的关键词抽取方法与系统,属于自然语言中文本关键词抽取领域。首先构建输入嵌入模块,对文档序列进行词元化,构建停用词集合和遮罩矩阵。其次通过构建感受野和句向量生成网络,根据分别生成感受野矩阵和句向量。然后利用句向量和感受野矩阵生成词排序矩阵,经过注意力评分层,得到候选词分数矩阵,并进一步获取分数序列以及长度序列。最后通过分数序列和长度序列产生的元素对,完成关键词抽取,并对网络模型进行训练。本发明帮助关键词抽取模型融合候选词筛选和候选词排序两项任务,并具有更好的鲁棒性和自适应能力。
《基于预训练模型和自动感受野的关键词抽取方法与系统(人工智能AI、文本挖掘、预训练模型、文档理解,电子书、文本关键词提取)》是一发明专利,专利号为 2022116945975,当前法律状态为已下证,由杭州电子科技大学提出申请,发明人为姜明;叶廉;张旻,申请日期为2022-12-28,公开(公告)日期为2023-04-25,国际专利分类号(IPC)为 G06F40/279(2020.01)I;G06F40/30(2020.01)I;G06F16/31(2019.01)I;G06N3/0464(2023.01)I;G06N3/0455(2023.01)I;G06N3/047(2023.01)I;G06N3/084(2023.01)I,高新资质:未报高企,所属技术领域包括:自然语言处理,信息抽取,文本表示学习,短语挖掘,序列建模,语义表征,深度学习,注意力机制,文本特征工程,多分支网络,文本候选筛选 、学术文献关键词标注,新闻文本关键词抽取,内容标签生成,政务文档摘要关键词,知识库文本索引构建,检索系统关键词提取,合同文本要素标记,舆情文本关键词挖掘,产品文档标签生成,医疗文本关键词提取,领域语料关键词标注,长文本精简索引,搜索引擎文档标引,智能摘要前置关键词抽取。该专利已下发证书,权利稳定,适合直接办理转让过户,是企业申报高企、项目招投标、质押融资的优质标的。赋翼网提供从选品、尽调、合同签订到官方著录项目变更(过户)的一站式专利转让服务,专业顾问全程协助,确保交易合规、安全、高效。专利摘要:本发明公开了基于预训练模型和自动感受野的关键词抽取方法与系统,属于自然语言中文本关键词抽取领域。首先构建输入嵌入模块,对文档序列进行词元化,构建停用词集合和遮罩矩阵。其次通过构建感受野和句向量生成网络,根据分别生成感受野矩阵和句向量。然后利用句向量和感受野矩阵生成词排序矩阵,经过注意力评分层,得到候选词分数矩阵,并进一步获取分数序列以及长度序列。最后通过分数序列和长度序列产生的元素对,完成关键词抽取,并对网络模型进行训练。本发明帮助关键词抽取模型融合候选词筛选和候选词排序两项任务,并具有更好的鲁棒性和自适应能力。
海量优质专利即买即用,四大核心优势助您弯道超车:
🏆 拿资质,享红利:高企认定、专精特新必备!轻松获取政府补贴、税收减免,招投标直接加分!
💎 增信誉,融资金:支持实缴注册资金,彰显企业硬实力;支持专利质押贷款,盘活现金流,扩张不缺钱!
🔥 强背书,防抄袭:印上“专利产品”,客户更信赖!构建技术壁垒,把竞争对手挡在门外,稳占市场份额!
🚀 省时间,快变现:告别漫长研发与高风险!优质专利即买即用,让技术立刻变成真金白银的利润!
