添加链接
link管理
链接快照平台
  • 输入网页链接,自动生成快照
  • 标签化管理网页链接
当在训练完ChatGLM后尝试进行推理时遇到错误,因为probabilitytensor包含了-inf,nan或小于0的元素。解决方法是删除main.py文件中第387行和396行的do_sample=True语句。 摘要由CSDN通过智能技术生成

训练完ChatGLM后想执行推理时,发现模型报错

RuntimeError: probability tensor contains either `inf`, `nan` or element < 0

解决方法:
删除ptuning下的main.py文件第387行和396行的do_sample=True红框语句。
在这里插入图片描述

本文主要介绍了RuntimeError: Boolean value of Tensor with more than one value is ambiguous解决方案,希望能对学习python的同学们有所帮助。 1. 问题描述 2. 解决方案
 本文主要介绍了RuntimeError: “LayerNormKernelImpl” not implemented for 'Half’解决方案,希望能对学习大模型的同学们有所帮助。 1. 问题描述 2. 解决方案
本文主要介绍了RuntimeError: Internal: [MASK] is already defined解决方案,希望能对使用ChatGLM的同学有所帮助。 1. 问题描述 2. 解决方案
这个错误通常是由于概率张量包含无效值(如infnan或小于0的元素)而引起的。这个问题可能是在模型训练过程中发生的,可能是在输入数据预处理中出现的。 为了解决这个问题,你可以尝试以下几个步骤: 1. 检查数据预处理过程中是否存在问题,例如是否存在无效值或缺失值。 2. 检查模型训练过程中是否存在问题,例如是否使用了无效的损失函数或优化器。 3. 尝试对数据进行归一化或标准化,以确保所有值都在合理的范围内。 4. 如果问题仍然存在,可以考虑使用其他的模型或算法来解决问题。
ChatGLM推理报错RuntimeError: probability tensor contains either `inf`, `nan` or element < 0 宇呀宇!: 解决了,但是为什么啊 代码随想录 & hot100 刷题经历 普通网友: 写的真好,细节很到位!【我也写了一些相关领域的文章,希望能够得到博主的指导,共同进步!】 ChatGLM推理报错RuntimeError: probability tensor contains either `inf`, `nan` or element < 0 朝歌的薄荷糖: 您好,请问您解决了吗,我还是没解决。。。 Python蓝桥杯的一些数据输入输出格式 nk妹妹: 会,我这里图了个方便,可以写个判断 if i!=len(result)-1 Python蓝桥杯的一些数据输入输出格式 宇宙无敌第一大帅比: 这样输出数组,最后会多出一个空格,测评会判错吗