每天给你送来NLP技术干货!
来自:世界AI创新大赛

2022年AIWIN世界人工智能创新大赛春季赛与太平洋保险、国泰君安、SMG技术中心(上海东方传媒技术有限公司)三家出题方联合举办了中文保险小样本多任务竞赛、发债企业的违约风险预警竞赛、文本语音驱动数字人表情口型竞赛三场AI算法技术赛事。目前中文保险小样本多任务竞赛、发债企业的违约风险预警竞赛已完成竞赛,为了让小伙伴们更好的通过赛事交流学习,在7-8月之间每周二,我们将陆续邀请优秀的赛事团队分享赛事方案,大家敬请期待。
今天分享的是“中文保险小样本多任务竞赛”SmellSong团队的方案,他们获得本赛题的3名。
1
团队介绍

2
赛题分析
赛题T1 - 中文保险小样本多任务竞赛
【任务】探索统一范式的多任务小样本学习,覆盖保险、金融、医疗三大领域,包含文本分类、文本相似度、自然语言推断、命名实体识别、及机器阅读理解等五大任务
【输入】各子任务输入文本(正文+候选选项/实体类型/问题)
【输出】各子任务预测标签(分类标签/实体列表/答案)
【评价方式】综合 CLS / NER / MRC 各任务的 Macro-F1

赛题难点分析

解题思路(整体框架)

3
实验探索
模型选型

Prompt 探索


数据探索 - 多任务提示学习


数据探索 - 领域数据微调


数据探索 - 实验结果

模型输出层改进


4
竞赛总结
整体架构

上分记录

未来工作展望

📝论文解读投稿,让你的文章被更多不同背景、不同方向的人看到,不被石沉大海,或许还能增加不少引用的呦~ 投稿加下面微信备注“投稿”即可。
最近文章
ACL'22 | 快手+中科院提出一种数据增强方法:Text Smoothing
阿里+中科院提出:将角度margin引入到对比学习目标函数中并建模句子间不同相似程度
DiffCSE: 将Equivariant Contrastive Learning应用于句子特征学习
下载一:中文版!学习TensorFlow、PyTorch、机器学习、深度学习和数据结构五件套! 后台回复【五件套】
下载二:南大模式识别PPT 后台回复【南大模式识别】投稿或交流学习,备注:昵称-学校(公司)-方向,进入DL&NLP交流群。
方向有很多:机器学习、深度学习,python,情感分析、意见挖掘、句法分析、机器翻译、人机对话、知识图谱、语音识别等。

记得备注~