『百度』国际语义评测SemEval 2020比赛收官百度ERNIE获五项世界冠军 |技术|人工智能|英语|

本文插图
SemEval是全球范围规模最大、参赛人数最多的权威语义评测竞赛,由国际计算语言学协会(Association for Computational Linguistics, ACL)的 SIGLEX 主办。自2001年起， SemEval已成功举办十四届，在业界和学术界具有极高影响力。此次SemEval和自然语言处理领域的顶级会议COLING联合举办。
ERNIE是此次五项世界冠军背后的“趁手利器” 。去年， ERNIE先后完成两版重大升级。 ERNIE 1.0提出知识增强的语义表示模型，而ERNIE 2.0则构建了持续学习语义理解框架，在中英文16个任务上超越业界最好模型。此后， ERNIE模型再次改进，以历史上首次超越90大关的成绩登顶自然语言处理领域最权威的GLUE评测榜单。本次比赛， ERNIE再度创新，再立战功，夺得五项世界冠军。
让AI更懂“轻重”：视觉媒体的关键文本片段挖掘
该任务由美国休斯顿大学、Adobe美国研究院联合举办，旨在自动挖掘海报、广告、传单等视觉媒体中文本的关键片段，对其进行重点设计，提升宣传效果。由于人们对于同一文本重要内容的判断不一致，在没有唯一标准的情况下，该任务存在极大的难度。
百度ERNIE团队采用多种技术手段解决这个难题：首先ERNIE模型作为语义信息提取模块，对各片段重要性进行建模;然后针对关键片段标准不统一的问题，设计了更贴近目标的5 Label的Pairwise损失函数;最后从数据出发构造了多种针对性的语义特征以及数据增强策略，最终以5项指标全部-第一的成绩获得冠军。

本文插图
比赛中，主办方Adobe希望将赛题的解决方案应用于Adobe Spark ，赋予其海报自动设计能力，以达到更好的宣传效果。如下图所示的“ERNIE”、“轻重”的黑白效果就是自动挑选的结果。百度ERNIE团队采用ERNIE让AI更懂文字的“轻重” ，释放广大视觉设计者的劳动力，使其能够更专注于对核心内容的设计。此外，该项技术已应用于百度搜索，能够动态分析出用户查询内容中的重要片段，使其返回更精准的搜索结果，让百度更懂您。

本文插图
让世界更有“AI”：多语攻击性语言检测
该任务由多个国家的研究机构联合举办。其中包括了英国剑桥大学、美国IBM研究院、以及来自德国、丹麦、卡塔尔的多所著名大学和研究院。该任务包含了三个子任务：
第一个子任务是在对英语、丹麦语、希腊语、阿拉伯语和土耳其语等包含五种语言的社交媒体进行攻击性检测。百度ERNIE团队构建了大规模的多语预训练模型，充分挖掘海量的多语无监督文本，用相同的模型来学习所有语种的语义表示，使模型具备跨语言的理解和分析能力。同时，采用Multi-lingual Fine-tuning的方法，利用其他语言的知识辅助建模，最终以五项语言平均分第一名的成绩取得冠军。
另外两个任务是在英语环境中对攻击性语言的类型和目标分别进行更加精细化的分析。百度ERNIE团队通过数据蒸馏的技术，从更多无监督的网络文本中学习多种模型的Soft Label ，分别以F1超过第二名1.0%和4.4%的绝对优势取得了冠军。

本文插图
随着网民人数的不断增加，网民态度立场不同、文化水平及道德素质参差不齐的状况便摆在我们面前。网络暴力和网络人身攻击现象由此而生。政府、社交网站、搜索引擎、兴趣社区都在大力研究如何检测出社交媒体攻击性行为，帮助人们构建一个更加和谐友爱的网络环境。百度的研究者也希望通过这一技术，能够让世界充满“AI” ，少一些偏见。

『百度』国际语义评测SemEval 2020比赛收官 百度ERNIE获五项世界冠军

『百度』国际语义评测SemEval 2020比赛收官百度ERNIE获五项世界冠军