CUDA error: an illegal memory access was encountered

将输入rwkv模块的第一个维度从batch变成batch*knn之后,就出现了这个错误,没修改之前是没有问题可以正常运行的。

batch这个维度要求全部是并行(你应该有访存错误,冲突了

您说的这个情况是只要网络中存在输入rwkv的第一个维度不一样的情况就不行吗,那有什么解决方法吗

您说的这个情况是只要网络中存在输入rwkv的第一个维度不一样的情况就不行吗,那有什么解决方法吗

请具体给出你的代码,batch要求并行,你很可能进行了非法访存