一种基于BERT和无池化卷积神经网络的文本分类方法

本发明请求保护一种基于BERT和无池化卷积神经网络的文本分类方法，步骤包括：对原始中文新闻文本进行分词、转换文本序列等预处理；将新闻文本输入BERT模型中得到词嵌入向量输出，基于BERT模型的多头注意力机制可以更充分地保留全局语义信息；将词嵌入向量输入卷积神经网络并对卷积神经网络进行优化，在卷积层使用三个不同大小的卷积核提取更加丰富的局部语义信息，以及取消池化层避免池化操作造成的部分语义信息丢失问题；将训练得到的参数作为网络模型的初始参数；最后将无池化卷积神经网络的输出输入全连接层实现分类。本发明具有良好的收敛性和稳定性，同时能够提高文本分类准确率。

《一种基于BERT和无池化卷积神经网络的文本分类方法》是一外观专利，专利号为  2023100037753 ，当前法律状态为已下证，由重庆邮电大学提出申请，发明人为唐贤伦;周朝宇;谢颖;万辉;丁河长;党晓圆;徐梓辉;孙霞;王会明，申请日期为2023-01-03，公开（公告）日期为2026-05-15，国际专利分类号（IPC）为 G06F16/35(2025.01)I;G06F40/30(2020.01)I;G06N3/08(2023.01)I;G06F40/242(2020.01)I;G06F40/289(2020.01)I;G06N3/0464(2023.01)I，高新资质：未报高企，所属技术领域包括：BERT、无池化卷积神经网络、文本分类、预训练模型、NLP、特征提取。该专利已下发证书，权利稳定，适合直接办理转让过户，是企业申报高企、项目招投标、质押融资的优质标的。赋翼网提供从选品、尽调、合同签订到官方著录项目变更（过户）的一站式专利转让服务，专业顾问全程协助，确保交易合规、安全、高效。专利摘要：本发明请求保护一种基于BERT和无池化卷积神经网络的文本分类方法，步骤包括：对原始中文新闻文本进行分词、转换文本序列等预处理；将新闻文本输入BERT模型中得到词嵌入向量输出，基于BERT模型的多头注意力机制可以更充分地保留全局语义信息；将词嵌入向量输入卷积神经网络并对卷积神经网络进行优化，在卷积层使用三个不同大小的卷积核提取更加丰富的局部语义信息，以及取消池化层避免池化操作造成的部分语义信息丢失问题；将训练得到的参数作为网络模型的初始参数；最后将无池化卷积神经网络的输出输入全连接层实现分类。本发明具有良好的收敛性和稳定性，同时能够提高文本分类准确率。

海量优质专利即买即用，四大核心优势助您弯道超车：
🏆 拿资质，享红利：高企认定、专精特新必备！轻松获取政府补贴、税收减免，招投标直接加分！
💎 增信誉，融资金：支持实缴注册资金，彰显企业硬实力；支持专利质押贷款，盘活现金流，扩张不缺钱！
🔥 强背书，防抄袭：印上“专利产品”，客户更信赖！构建技术壁垒，把竞争对手挡在门外，稳占市场份额！
🚀 省时间，快变现：告别漫长研发与高风险！优质专利即买即用，让技术立刻变成真金白银的利润！