admin管理员组文章数量:1567915
《论文阅读》DialogXL: All-in-One XLNet for Multi-Party Conversation Emotion Recognition
-
-
- 简介
- 思路出发点
- 任务定义
- 模型结构
-
- 构造输入
- 模型架构
-
- Utterance Recurrence
- Dialog-Aware Self-Attention
- 训练过程
- 实验结果
- 结论
-
出版:AAAI
时间:2021
类型:对话中的情感识别
特点:专门为ERC设计的模型,提供了一种寻找合适fixed length的方法,使用一种简单的方法来设计四种不同自注意力机制
作者:Weizhou Shen, Junqing Chen, Xiaojun Quan, Zhixian Xie
第一作者机构:Sun Yat-sen University, China
github:https://github/shenwzh3/DialogXL
简介
本文介绍了作者在预训练语言模型的对话 (ERC) 中进行情感识别的开创性工作。与常规文档不同,会话语句来自不同对话方的交替出现,并且在之前的工作中常用层次结构构建模型。这种结构不利于应用预训练的语言模型,如 XLNet。为了解决这个问题,我们提出了一个多合一的 XLNet 模型,即 DialogXL,具有存储更长的历史上下文的增强记忆模块来和处理多方结构的对话感知的自注意力。具体来说,我们首先将 XLNet 的递归机制从段级修改为话语级,以便更好地对会话数据进行建模。其次,我们引入了对话感知自注意力来代替 XLNet 中的普通自注意力,以捕获有用的说话人内部和说话人之间依赖关系。在四个 ERC 基准上进行了扩展实验,并提出了主流模型进行比
本文标签: 论文XLNetDialogXLMultiRecognition
版权声明:本文标题:《论文阅读》DialogXL: All-in-One XLNet for Multi-Party Conversation Emotion Recognition 内容由热心网友自发贡献,该文观点仅代表作者本人, 转载请联系作者并注明出处:https://www.elefans.com/dongtai/1725456570a1024266.html, 本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。
发表评论