BERT_BERT技术文章_InfoQ写作社区

BERT

0 人感兴趣 · 7 次引用

关注

03-15

我们知道Bert 预训练模型针对分词、ner、文本分类等下游任务取得了很好的效果，但在语义相似度任务上，表现相较于 Word2Vec、Glove 等并没有明显的提升。

02-17

前两天我们邀请了微软工程师为我们揭秘 ChatGPT，直播期间有个读者问到：有了 ChatGPT，BERT 未来还有发展前途吗？我想起来最近读过的一篇博客“最好的 ChatGPT 替代品”。

02-17

2022-08-18

我们来聊聊如何在预训练模型中融入知识。Tutorial分别针对NLU和NLG方向对一些经典方案进行了分类汇总，感兴趣的可以去细看下。这一章我们只针对NLU领域3个基于实体链接的知识增强方案Baidu-ERNIE，THU-ERNIE和K-Bert来聊下具体实现~

2021-10-19

摘要：本文用权重共享的one-shot的NAS方式对BERT做NAS搜索。

2021-08-11

摘要：本文是对ACL2021 NER BERT化隐马尔可夫模型用于多源弱监督命名实体识别这一论文工作进行初步解读。

2021-07-09

本文的第一部分是爱奇艺多语言台词机器翻译实践开展的相关背景，第二部分是爱奇艺针对多语言台词机器翻译模型的一些探索和优化，最后是该模型在爱奇艺的落地与应用情况。