Transformer积累阅读 Transformer是Google的研究者在2017年《Attention Is All You Need》论文中提出的用于seq2seq任务的模型,它没有RNN的循环结构或CNN的卷积结构,在机器翻译等任务中取得了一定的提升。 主要的motivation在于RNN、LSTM、GRU类的序列结构中的固有顺序属性阻碍了训练样本之间的并行化,对于长序列,内存限制将阻碍对训练样本的批量处理。 Tran 2021-10-07 NLP #NLP #Transformer
DST论文阅读-SUMBT SUMBT: Slot-Utterance Matching for Universal and Scalable Belief Tracking论文阅读笔记SUMBT: 槽-话语匹配的对话状态跟踪器,用来进行通用和可扩展的信念跟踪 2021-09-27 NLP #NLP #Dialogue State Tracking #论文笔记
macOS及Linux-命令行工具diff 需求:如果使用beyond compare等工具做diff还是有时候有些不方便的,或者说不够灵活。可以在macOS或者Linux系统中直接使用语句进行diff操作,并且在这里补充了一些关于zsh配置和colordiff的说明。 2021-09-16 develop > mixed > linuxmacos #linuxmacos
Dialogue-State-Tracking简述 学习一些中文论文来大概理解下DST这个任务: Reference: 郑正凯. 基于深度学习端到端的对话状态跟踪研究[D].山东大学,2021. 2021-09-14 NLP #NLP #Dialogue State Tracking
ConvLab-2 Getting Started ConvLab-2.ipynb ConvLab-2是一个开源工具包,使研究人员能够使用最先进的模型构建面向任务的对话系统,执行端到端评估,并诊断系统的弱点。作为ConvLab的继承者,ConvLab-2继承了ConvLab的框架,但集成了更强大的对话模型并支持更多的数据集。此外,作者还开发了一个分析工具和一个交互式工具,以帮助研究人员诊断(diagnosing)对话系统。 从这里学习一些对话系列的 2021-09-14 NLP #NLP #Dialogue
MultiWOZ数据集学习 主要记录了通过了解数据集作为对DST任务的入门,MultiWOZ数据集是适用于任务型对话系统的数据集,目前看了一遍这个简介后还是不太明白,感觉还需要各种渠道多了解下 Reference: 任务型对话系统数据集详解大全(MultiWOZ /DSTC) https://zhuanlan.zhihu.com/p/200747822 2021-09-13 NLP #NLP #Dialogue State Tracking #Dataset
我的首篇github博客! 何老版推荐的github.io+hexo好用啊 个人代码管理+笔记博客什么的都可以写在github这里了 主要写了hexo + github.io的双分支部署说明和步骤,以及本地运维和新建修改,切换主题等操作。 2021-09-13 develop > mixed > hexo #hexo