跑通大模型领域的 hello world

2024-01-07 20:12:05

跑通书生·浦语大模型的 3 个趣味 demo(InternLM-Chat-7B 智能对话、Lagent工具调用解简单数学题、浦语·灵笔多模态图文创作和理解)视频文档

1、两个框架

InternLM 是?个开源的轻量级训练框架,旨在?持?模型训练??需?量的依赖。
Lagent 是?个轻量级、开源的基于?语?模型的智能体(agent)框架,?持?户快速地将?个?语?模型转变为多种类型的智能体。

2、连接服务器

在本地使用ssh连接云端的GPU服务器。

普通连接

ssh -o StrictHostKeyChecking=no -p 33574 root@ssh.intern-ai.org.cn

连接服务器 并映射出端口到本地

ssh -L 6006:127.0.0.1:6006 root@ssh.intern-ai.org.cn -p 33574 -o StrictHostKeyChecking=no

3、用tmux执行命令

为了让窗口与进程解构,在tmux中执行linux命令。

1、bash
2、新建会话tmux new -s my_session。
3、在 Tmux 窗口运行所需的程序(conda activate internlm-demo等)。
4、按下快捷键Ctrl+b d将会话分离。
5、下次使用时,重新连接到会话tmux attach-session -t my_session。

4、更换pip、conda源

MirrorZ中提供了各类开源软件库的镜像和设置镜像的方法。

5、实现效果

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

文章来源:https://blog.csdn.net/Andytl/article/details/135422446
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。