Linux Ubuntu 和 Mac ,Windows 部署离线通义千问1.8B参数 4-bit量化大模型详细教程 全网唯一

2023-12-28 10:44:39

 代码为我自己写的 python 程序,应该是全网最简单的大模型部署方案,一个模型文件1.3GB,一个python代码即可开始玩耍~

首先说明,本文下面的内容需要一点点python基础,需要会安装 python和 pip 安装依赖库,如果你不会或者不想这么麻烦,只想要下载就能马上使用的大模型离线整合包,那抱歉,目前只支持 Windows ,Windows系统的离线整合包文章介绍链接为:

https://zhuanlan.zhihu.com/p/670964259

https://mp.weixin.qq.com/s/W-b7AUXlCCggLpz_8IkLBQ

https://mp.weixin.qq.com/s/RD0rbJakH3HS-DaIZZ-Lmw

下面开始正文

CPU运行:

1 安装python,并且需要保证python版本大于3.8,最好在虚拟环境里面安装;

2 安装 llama cpp python 

安装指令: 

pip install llama-cpp-python  -i https://pypi.tuna.tsinghua.edu.cn/simple/      

3 下载模型文件,百度网盘链接:https://pan.baidu.com/s/1WQQ8kaDilaagjoK5IrYZzA  提取码:1111  ;里面有一个通义千问大模型的有闪退的旧版本压缩文件,下载后解压文件夹里面有一个名

文章来源:https://blog.csdn.net/a394467238/article/details/135236842
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。