大模型学习之书生·浦语大模型2——趣味Demo

2024-01-07 18:56:09

文章目录


在这里插入图片描述

Demo效果

在这里插入图片描述

目录

在这里插入图片描述

大模型及InternLM模型介绍

在这里插入图片描述
在这里插入图片描述

  • InterLM是开源的轻量级训练框架
    • InterLM-7B
    • InterLM-20B
  • Lagent是智能体框架
  • 浦语·灵笔是视觉·语言大模型

InterLM-Chat-7B智能对话Demo

在这里插入图片描述

  • InterLM-7B
    • 70亿参数
    • 数万亿token进行训练
    • 支持8K token

在这里插入图片描述

Lagent智能体工具调用Demo

在这里插入图片描述
在这里插入图片描述

浦语·灵笔图文创作理解Demo

在这里插入图片描述

  • 图文理解
  • 创作能力
  • 海量多模态数据
  • 对话能力

在这里插入图片描述

通用环境配置

在这里插入图片描述

  • pip镜像源
  • conda镜像源

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

  • 模型下载
    • huggface
    • openXlab
    • modelscope

实践

智能对话Demo

1 创建开发机

在这里插入图片描述

2 进入开发机并创建环境及安装依赖

在这里插入图片描述

3 模型下载

在这里插入图片描述

4 代码准备

在这里插入图片描述

  • 修改web_demo.py模型文件路径
5 终端运行

在这里插入图片描述

  • 新建cli_demo.py
  • bash切换到虚拟环境后再运行

在这里插入图片描述
在这里插入图片描述

6 web demo运行

  • 先配置本地端口
    在这里插入图片描述

  • 将rsa-key填到开发机配置那块
    在这里插入图片描述

  • 然后再在终端运行
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

Lagent智能体工具调用Demo

1 环境安装

与上一个demo类似
在这里插入图片描述

2 模型下载

与之前的类似

3 Lagent安装

在这里插入图片描述
使用源码安装

4 修改代码

在这里插入图片描述

  • 整个替换
  • 主要是修改模型文件
5 demo运行

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

  • 选择internlm后等待加载模型，并选择相应的插件
  • 然后开始提问
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

浦语·灵笔图文理解创作Demo

机器GPU需要升级大内存

1 环境安装

在这里插入图片描述
在这里插入图片描述

  • 机器需要40g，可以升级配置，或者新建开发机
2 创建虚拟环境

在这里插入图片描述

  • pip安装依赖
pip install transformers==4.33.1 timm==0.4.12 sentencepiece==0.1.99 gradio==3.44.4 markdown2==2.4.10 xlsxwriter==3.1.2 einops accelerate
3 模型下载

在这里插入图片描述

  • 多模态模型 InterLM-XComposer
4 代码准备

在这里插入图片描述

5 终端运行Demo

在这里插入图片描述在这里插入图片描述

  • 需要根据自己实际情况将GPU参数进行修改
  • 加载vit模型比较耗时
    在这里插入图片描述
    在这里插入图片描述

在这里插入图片描述
若出现乱码，请进行更新代码

demo.launch(share=True, server_name="0.0.0.0", server_port=args.port, root_path=f'/proxy/{args.port}/')

在这里插入图片描述

  • 自动写文章

  • 自动配图并插图
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

  • 可以替换图片或者增加图片

  • 可以将文章进行保存，markdown的格式

  • 最上面是一些参数配置

在这里插入图片描述
多模态对话，问图片里的内容相关。

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

书名并不对，存在幻觉问题。

参考

文章来源:https://blog.csdn.net/uncle_ll/article/details/135440530
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。