解决报错: RuntimeError: [enforce fail at /pytorch/third_party/gloo/gloo/transport/tcp/device.cc:127] rp

1.我在多卡训练模型时报如下错误:

    RuntimeError: [enforce fail at /pytorch/third_party/gloo/gloo/transport/tcp/device.cc:127] rp != nullptr. Unable to find address for: my_username
提示我找不到 my_username地址。

2. 解决问题
      在训练模型之前,先设置一下环境变量,即声明一下地址:

      export GLOO_SOCKET_IFNAME=lo

3. 补充
     如果多卡训练时出现卡顿,用下面的方法解决:

     分布式训练前,终端先执行:export NCCL_SOCKET_IFNAME=lo
 

猜你喜欢

转载自blog.csdn.net/m0_62278731/article/details/132321649