陈根：人工智能的语言学习之路，从挑战到突破 / 四六文摘

作者:朱帅学校:华中科技大学研究方向:文本匹配,对话系统 1. 关于文本匹配文本匹配是NLP的基础任务之一,按照论文中的实验对传统的文本匹配任务进行分类,大致可以分为文本检索(ad-hoc),释 ...

Bert 自 Google 于 2018 年发表至今,一直给人们带来惊喜,期间也陆陆续续因为Bert出现的原因多了不少新的岗位,甚至公司 JD 上都明确表明必须懂 Bert. 它在 11 项自然语言处 ...

本篇介绍目前NLP领域里影响力最大的预训练模型BERT.首先,大致介绍了BERT里有什么:接着,介绍了BERT的结构和其预训练的方式:最后,再总结BERT的表征的内容和分布. 作者&编辑 | ...

来自:朴素人工智能感谢清华大学自然语言处理实验室对预训练语言模型架构的梳理,我们将沿此脉络前行,探索预训练语言模型的前沿技术,红框中为已介绍的文章,绿框中为本期介绍的模型,欢迎大家留言讨论交流. E ...

NLP工作站 16篇原创内容公众号从以下5个部分通过QA的方式进行总结:Transformer架构.Transformer-Encoder预训练语言模型.Transformer-Decoder预训 ...

自从Google提出预训练语言模型BERT,关于语言模型的玩法层出不穷. 然而,大部分模型都是在英文场景中提出的,迁移到中文场景效果往往有不同程度的下降. 之前我和朋友参加了CCKS机器阅读理解比赛, ...

BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 作者: Jacob Devlin, M ...

前2个是NLP领域的基础工作,早已"走向世界",在CV,ASR中有了广泛应用.后3个基于前两项工作进行了创新和推广,在语义解析子任务Text2SQL上大放光彩. 提出Transfo ...

文/陈根 2009年,东京一家医院发现了一种此前从未出现的真菌病原体,它对大多数已知的抗生素具有抗药性,这就是一度令人们感到恐慌的耳念珠菌(Candida auris).因其具有多重耐药和致死率高的特 ...

文/陈根锂离子电池的应用范围仍在不断扩大,包括为从智能手机.笔记本电脑到电动汽车的一切提供动力,而所有这些,都是通过使用石墨作为阳极来实现的--设备的负极.但与此同时,锂电池容量也仍受到主要负极材料 ...

文/陈根近日.范德比尔特大学的研究人员称,他们发现了如何有效地关闭驱动癌症生长的基因. 该基因被称为MYC,一直以来,癌蛋白转录因子MYC都是恶性肿瘤的主要驱动因素,也是开发抗癌疗法的高度验证但具有 ...

文/陈根机器学习是人工智能的一个重要分支,而深度学习则是机器学习发展到一定阶段的必然产物. 深度学习就像生物神经大脑的工作机理一样,通过合适的矩阵数量,多层组织链接一起,形成神经网络"大脑 ...

文/陈根 20世纪50年代,图灵提出著名的"图灵测试",引出了自然语言处理的思想,而后,经过半个多世纪的跌宕起伏,历经专家规则系统.统计机器学习.深度学习等一系列基础技术体系的迭代 ...

文/陈根利用计算机把一种自然语言转变成另一种自然语言的过程就是机器翻译. 机器翻译对于信息时代下海量信息的捕获无疑具有重要作用,事实上,人们对于机器翻译的需求也与日俱增.除了专业的出版水平的翻译,机 ...

文/陈根人工智能在医疗卫生领域广泛应用正形成全球共识.可以说,人工智能以独特的方式捍卫着人类健康福祉,除了在诊疗手术.就医管理.医疗保险发挥作用,基于算法的人工智能近年来更是推动着疾病诊断与药物研究 ...

文/陈根特异性免疫(specific immunity)又称获得性免疫或适应性免疫,它是由人体经后天感染(病愈或无症状的感染)或人工预防接种(菌苗.疫苗.类毒素.免疫球蛋白等)之后,而使机体获得的一 ...

文/陈根人工智能.大数据.量子力学以及超级计算的结合,加深了人们对材料的理解,并且使人们不再只是依赖人类直觉去发现新材料. 事实上,过往的重大材料的发现都是科学家偶然间或者多次试验得到的.例如,人们 ...

陈根：人工智能的语言学习之路，从挑战到突破