windows下跑量化大模型,提示错误,
importlib.metadata.PackageNotFoundError: No package metadata was found for bitsandbytes
网上搜到一个解决办法,记录一下。
这个提示是没有安装bitsandbytes包,在linux下直接pip install bitsandbytes 安装就可以了。
但是windows下不不行,bitsandbytes 不支持windows.
网上有人提到https://jllllll.github.io/bitsandbytes-windows-webui 可以,
安装命令python -m pip install bitsandbytes –prefer-binary –extra-index-url=https://jllllll.github.io/bitsandbytes-windows-webui
问题解决。