PyTorch使用F.cross_entropy报错Assertion `t ＞= 0 && t ＜ n_classes` failed 和解决RuntimeError: CUDA error: de

和解决RuntimeError: CUDA error: device-side assert triggeredCUDA kernel errors…CUDA_LAUNCH_BLOCKING=1)

等一会嘎嘎嘎O_o

523人浏览 · 2023-04-11 08:34:27

等一会嘎嘎嘎O_o · 2023-04-11 08:34:27 发布

PyTorch使用F.cross_entropy报错Assertion `t ＞= 0 && t ＜ n_classes` failed 和解决RuntimeError: CUDA error: device-side assert triggeredCUDA kernel errors...CUDA_LAUNCH_BLOCKING=1

第一点
第二点

和解决RuntimeError: CUDA error: device-side assert triggeredCUDA kernel errors…CUDA_LAUNCH_BLOCKING=1)

第一点

修改网络的（分类任务）的n_class,未修改输出的类别，导致交叉熵loss计算出现错误。

第二点

输入数据用的xml或者csv文件的标签设置有问题

技术共进，成长同行——讯飞AI开发者社区

更多推荐

论文笔记：AlphaEdit: Null-Space Constrained Knowledge Editing for Language Models（AlphaEdit）

论文发表于人工智能顶会ICLR（基于定位和修改的模型编辑方法（针对和等）会破坏LLM中最初保存的知识，特别是在顺序编辑场景。为此，本文提出AlphaEdit：1、在将保留知识应用于参数之前，将扰动投影到保留知识的零空间上。2、从理论上证明，这种预测确保了在查询保留的知识时，编辑后的LLM的输出保持不变，从而减轻中断问题。3、对各种LLM（包括LLaMA3、GPT2XL和GPT-J）的广泛实验表明，