使用llamafactory的推理引擎huggingface加载量化后大模型报错:

exllama-kerners is not uninstall

解决办法:

pip install auto-gptg --no-build-isolation

更多推荐