使用seq2seq模型实现一个聊天机器人

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/u010736419/article/details/78127700

使用了TensorFlow中的transalte程序实现对问题的分类,即输入一个问题,输出一个问题的编码。具体过程如下:

(1)使用的版本为tensorflow-0.12.0-rc1,但该版本中存在一个bug,需要进行修改,将data_utils.py中的函数initialize_vocabulary中:

rev_vocab =[line.strip() for line in rev_vocab]

修改为:
rev_vocab = [tf.compat.as_bytes(line.strip()) for line inrev_vocab]

或者参考链接:

https://github.com/tensorflow/models/issues/771

 (2)修改源代码:

可参考链接:http://cncc.bingj.com/cache.aspx?q=https%3a%2f%2fblog.kovalevskyi.com%2frnn-based-chatbot-for-6-hours-b847d2d92c43&d=4930851775776272&mkt=en-US&setlang=en-US&w=z4qc5UiwDGXCSqmLjo0qBk2Sf5ChQdQh

(3)文本处理:a.把“类别”的数字用ABCDE等字符取代,不要用原来的号码,因为 TRANSLATE 对号码做归一处理,所以必须把类别改成ABCDEF...(非数字)的字符。

b.把“客户询问”做先处理: 每个字符之间要用一个空格“ ”分开;把非国字的字符,用 ASCII 取代。中文使用的“,”,与英文用的",",是不同的字符。所以必须把原来的非国字的字符,用标准的ASCII字符取代。 将繁体字转化为简体字,同时去除一些没有意义的符号或者时间等。

c.用TRANSLATE训练时,你必须把“类别”做成一个文档,把“客户询问”做成另一文档,然后训练。

d.训练后的结果,应该是当你输入“客户询问”时,TRANSLATE会正确地回复其“类别”。

另外,这里使用的是字向量,也可以分词后使用词向量,感觉分词后的收敛速度会更快些,但测试效果差不多。同时,在预测测试时,需要将输出的结果做对应的逆处理。

(4)调整分桶大小,根据字向量长度分布调整桶大小,如果使用字向量训练需要将桶设置的大一些,尽量均匀分布。如:

buckets = [(30, 5), (40, 5), (50, 5), (120, 5)]

(5)设置GPU K40超高速运行状态:

sudo nvidia-smi -ac 3004,875

sudo nvidia-smi -pm 1

确认k40在超高速状态下开启ECC功能

(6)训练及测试

猜你喜欢

转载自blog.csdn.net/u010736419/article/details/78127700