梯度张量释放

PyTorch训练显存越跑越涨，隐式保留计算图导致OOM，怎么办？🔍

你有没有遇到过这种情况：PyTorch训练模型时 一开始显存占用还行，但越跑越卡，再说说直接OOM？ 是不是？ 你是不是也像我一样，盯着屏幕上的“CUDA out of memory”报错，心里一阵阵发毛？显存越跑越高，这到底是谁的锅？蚌埠