在中文理解领域最权威的线索榜单中,蚂蚁集团保险科技团队以92.475的成绩打破线索阅读理解榜单历史纪录,排名第一。
长期以来,机器阅读理解技术因其难度和复杂性而成为语义理解领域最关键的能力之一根据消息显示,蚂蚁保险技术团队凭借在自然语言处理领域的多年深耕,自主研发了一款预训练语言模型———antis Bert,该模型仅包含十亿个参数,却一举登顶CLUE的阅读理解榜单,创下新的历史纪录
根据消息显示,AntInsBert之所以只用1/10的参数量就达到了匹配甚至超越百亿模型的结果,主要得益于两项技术的升级首先,AntInsBert改进了传统的语言模型预训练方案,设计了基于Prompt的知识增强预训练方案,将海量知识图谱内容引入预训练模型
其次,为了进一步挖掘AntInsBert在机器阅读理解算法中的潜力,该方案对文本分类,信息抽取,指代消解等常见的中文语义理解任务进行了转化通过模板转化为阅读理解任务,从而进一步提高模型的规范性
声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。