大模型学习之书生·浦语大模型1——全链路开源体系

2024-01-07 17:31:26

在这里插入图片描述

书生·浦语大模型全链路开源体系

在这里插入图片描述
大模型成为热门关键词
在这里插入图片描述
大模型成为发展通用人工智能的重要途径，未来是使用一个模型应对多种任务，多种模态。

书生·浦语大模型开源历程

在这里插入图片描述
在这里插入图片描述

  • InternLM-7B
  • InternLM-20B
  • InternLM-123B

在这里插入图片描述
性能达到LIama2-70B水平

从模型到应用

在这里插入图片描述
在这里插入图片描述

  • 模型选型，不同维度上不同业务上的能力
  • 业务场景是否复杂，非常复杂的话直接开源模型可能不能满足需求
  • 是否算力足够，如果足够可以进行续训练，或者全参数微调，如果不够就只能微调
  • 业务场景是否需要与环境交互，是否需要调用外部API或者数据库，构建智能体
  • 模型评测
  • 模型部署

全链条开源开放体系

在这里插入图片描述

  • 数据：书生万卷
  • 预训练：InternLM-train
  • 微调：XTuner
  • 部署：LMDeploy
  • 评测：OpenCompass
  • 应用：Lagent AgentLego

数据

在这里插入图片描述
在这里插入图片描述

  • OpenDataLab
  • 5400+数据集
  • 30+模态
  • 80TB数据大小

预训练

在这里插入图片描述

微调

在这里插入图片描述
在这里插入图片描述

  • XTuner
  • 兼容不同算法
  • 兼容不同生态模型和数据集
  • 自动化优化加速

在这里插入图片描述

评测

在这里插入图片描述
在这里插入图片描述

  • OpenCompass
  • 6大维度
  • 80+评测集
  • 40w+评测题目
    在这里插入图片描述
    在这里插入图片描述
  • 丰富的模型支持
  • 分布式高效评测
  • 便捷的数据集接口
  • 敏捷的迭代能力

在这里插入图片描述

  • 丰富的模型支持

部署

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

智能体

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

总结

在这里插入图片描述

文章来源:https://blog.csdn.net/uncle_ll/article/details/135374647
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。