训练速度突然下降以及执行nvidia-smi卡顿如何解决?

训练速度突然下降以及执行nvidia-smi卡顿如何解决?

原因分析

根据现象描述可能出现了nvidia-smi D+进程。 "D+"表示进程状态为"Uninterruptible Sleep (usually IO)",即进程正在等待I/O操作完成,此时无法被中断。

在正常情况下,nvidia-smi进程通常只会短暂地出现D+状态,因为它们是由内核控制的,该进程处于等待I/O操作完成的状态,可能是在读取或写入GPU相关的数据,这是正常的操作。但是,如果该进程一直处于"D+"状态,可能表明出现了I/O操作阻塞或其他问题,这可能导致系统死锁或其他问题。

如果想构造nvidia-smi D+进程,可以死循环一直执行nvidia-smi体验D+进程带来的系统不稳定性, 如:

#!/bin/bash

while true; do

nvidia-smi &

sleep 1 # 可以根据需要调整间隔时间

done

然后执行查看产生nvidia D+进程

ps -aux | grep -w D+

结果如下:

图1 nvidia D+进程

此时可以观察你的训练任务或者执行“nvidia-smi”等命令,几乎是卡顿无法执行,因为内核IO已经阻塞, 无法执行相关GPU命令,只能尝试释放D+进程。

相关推荐

在中国,现金几乎已经消失了,银行失去了对日常交易的控制
苹果ipad坏了去哪里修
日博365投注

苹果ipad坏了去哪里修

📅 06-28 👁️ 7162
如何查找VPS的IP地址?
日博365投注

如何查找VPS的IP地址?

📅 06-29 👁️ 5923