语言模型language models 动手学深度学习v2

1. 语言模型 language models

猴子随机打出来莎士比亚的作品,时间大概要多久呢? – 宇宙爆炸都打不出来。
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2. 代码实现

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

3. Q&A

    1. sequence sample (token 是word),一般32位效果会比较好。要考虑模型的复杂度,和产品综合考虑。

参考

https://www.bilibili.com/video/BV1ZX4y1F7K3?p=1

猜你喜欢

转载自blog.csdn.net/zgpeace/article/details/124642952