小白做科研(三)数据处理

读了很多论文,咱们自己心里也对整体的进展有了一些了解和脉络,那么下一步就可以试着复现啦~

而要复现人家的代码,那肯定得找人家的数据集,数据到手后就可以开始处理了~ 这篇主要粘一些看到的比较好的博客

平台

我自己就是觉得pytorch比tensorflow帅hhhh,而且很多师兄大佬也说pytorch比较好,那就可以先从官网教程开始了解~

  • 需要指明一点,大家安装pytorch后其实不需要装cuda也可以用gpu(因为torch里附带了一些cuda的驱动),但是好像是功能受限,如果想要完整版应该还是得老老实实cuda+cudnn

数据处理

要训练模型的话,最好是喂一批(batch)一批的数据进去,所以我们需要把数据读取自己需要的部分,然后让数据成批呈现,这里pytorch提供了很方便的工具Dataset和DataLoader,定义好了就可以直接用;

我想着重说一下torchtext啊,主要是在文本处理这块用,其中有很丰富方便的功能,其实pytorch官网中一些text的教程中都用到了这个工具,但是没有给出一个系统化的用法,所以我google了一下发现这篇讲的很清楚,还有一篇但是这个界面太丑了,我没细看。

另外

我参(zhào)考(chāo)微软开源推荐系统 提供的代码,将数据处理的部分迁移(其实就是照搬。。。改动了一点部分,加了一些注释,删除了一些小项目不必要的抽象)到pytorch平台下,详情参考 我的仓库

我自己也还在探索中,会一直更新,希望广泛交流。

猜你喜欢

转载自blog.csdn.net/namespace_Pt/article/details/109436260