基于一致性Mixup融合BERT知识到Seq2Seq模型的低资源神经机器翻译方法（高校公示15天）（不包年费滞纳金）（需要二变）

本发明涉及基于一致性Mixup融合BERT知识到Seq2Seq模型的低资源神经机器翻译方法，属于自然语言处理领域。本发明无需增加额外的参数，简单有效；首先获取源语言包含丰富语义知识的源语言BERT表征，在Transformer编码端利用Mixup将源语言的BERT表征融入Seq2Seq模型；在此基础上每一句源语言输入编码器两次，在编码端的两次输出上进行一致性约束，以促进模型能更好的学习预训练模型中的知识；最后将编码器的第六层输出特征作为解码器的输入，解码器采用传统的Transformer解码器结构。本发明采用公共数据集IWSLT的数据集来训练模型。实验结果表明本发明提出的模型能超过了大多数以前的工作。

《基于一致性Mixup融合BERT知识到Seq2Seq模型的低资源神经机器翻译方法（高校公示15天）（不包年费滞纳金）（需要二变）》是一发明专利，专利号为 2022100836713，当前法律状态为已下证，由昆明理工大学提出申请，发明人为郭军军;朱志国，申请日期为2022-01-20，公开（公告）日期为2024-04-26，国际专利分类号（IPC）为 G06F 40/47 (2020.01)，高新资质：未报高企。该专利已下发证书，权利稳定，适合直接办理转让过户，是企业申报高企、项目招投标、质押融资的优质标的。赋翼网提供从选品、尽调、合同签订到官方著录项目变更（过户）的一站式专利转让服务，专业顾问全程协助，确保交易合规、安全、高效。专利摘要：本发明涉及基于一致性Mixup融合BERT知识到Seq2Seq模型的低资源神经机器翻译方法，属于自然语言处理领域。本发明无需增加额外的参数，简单有效；首先获取源语言包含丰富语义知识的源语言BERT表征，在Transformer编码端利用Mixup将源语言的BERT表征融入Seq2Seq模型；在此基础上每一句源语言输入编码器两次，在编码端的两次输出上进行一致性约束，以促进模型能更好的学习预训练模型中的知识；最后将编码器的第六层输出特征作为解码器的输入，解码器采用传统的Transformer解码器结构。本发明采用公共数据集IWSLT的数据集来训练模型。实验结果表明本发明提出的模型能超过了大多数以前的工作。

海量优质专利即买即用，四大核心优势助您弯道超车：
🏆 拿资质，享红利：高企认定、专精特新必备！轻松获取政府补贴、税收减免，招投标直接加分！
💎 增信誉，融资金：支持实缴注册资金，彰显企业硬实力；支持专利质押贷款，盘活现金流，扩张不缺钱！
🔥 强背书，防抄袭：印上“专利产品”，客户更信赖！构建技术壁垒，把竞争对手挡在门外，稳占市场份额！
🚀 省时间，快变现：告别漫长研发与高风险！优质专利即买即用，让技术立刻变成真金白银的利润！