介绍
什么是自然语言
理解的标注,图灵测试
多样性和歧义性
传统的特征工程
深度学习
目录
语义表示
只是增强的语义表示
分布式假设,近朱者赤近墨者黑
迁移学习
微调新范式,完全可以去对比人
只是作为一个维度和粒度的掩码机制
融合知识以及多任务持续学习
千亿大模型,文心
跨模态,ERNIE-ViLG
多语言大模型,回译机制
典型应用场景
内部
外部行业应用
如何使用大模型
文心大模型套件
体验方式
API体验
跨模态
智能问答
内部搜索问答的应用
端到端的检索式问答
只是图谱的融合阅读理解,KT-NET
UNIT平台
表格问答
核心技术NLU+SQL+NLG
任务型和开放型
任务方式对话,意图分类识别,和序列标注的实体识别
任务对话理解
小样本意图识别
自适应匹配技术
限定关系的自动识别
开放域对话特点
文本生成的方式
多维度对话能力
百亿级预训练生成模型
对话能力
UNIT
落地
机器翻译
发展历程,规则,统计,神经网络
世界沟通
200多种语言互译
多语言翻译特点
共享编码器和语义相似度聚类
同声传译
高准确和低延时
服务的重要会议
预训练+微调+知识
千言数据集
挑战
面向中文
面向任务