ChatGLM推理报错RuntimeError: probability tensor contains either `inf`, `nan` or element < 0
训练完ChatGLM后想执行推理时,发现模型报错
RuntimeError: probability tensor contains either `inf`, `nan` or element < 0
解决方法:
删除ptuning下的main.py文件第387行和396行的do_sample=True
红框语句。
所有评论(0)