启动百川大模型错误解决：ModuleNotFoundError: No module named ‘bitsandbytes‘

2023-12-14 14:58:22

1.错误信息

Traceback (most recent call last):
  File "/root/.cache/huggingface/modules/transformers_modules/Baichuan2-13B-Chat-lora23/modeling_baichuan.py", line 735, in quantize
    from .quantizer import quantize_online
  File "/root/.cache/huggingface/modules/transformers_modules/Baichuan2-13B-Chat-lora23/quantizer.py", line 1, in <module>
    import bitsandbytes as bnb
ModuleNotFoundError: No module named 'bitsandbytes

2.错误原因排查

	pip install torch 默认安装的版本太高导致，如图：

在这里插入图片描述
3.错误解决

	降低版本：pip install torch==2.0.1

文章来源:https://blog.csdn.net/weixin_43945983/article/details/134988717
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。