大模型学习第一课

2024-01-07 20:16:30

学习目标：

  • 大模型开源体系

学习内容：

  1. 大模型简述
  2. 大模型性能
  3. 开源体系

学习时间：

  • 周四上午 10点

学习记录：

  • 大模型简述
    • 大模型是发展通用人工智能的重要途经
    • 专用模型到通用大模型
    • 实验室开源历程，大模型系列7B-20B-123B
  • 大模型性能
    • 达到Llama2-70B
    • 大模型应用：智能客服，个人助手，行业应用
    • 从模型到应用：
    • 数据，预训练，微调，部署，评测，应用
  • 开源体系
    • 数据：文本数据，图像-文本数据，视频数据。2TB
    • opendatalab
    • 预训练：高扩展性，极致性能优化，兼容主流，开箱即用
    • 微调：增量续训，有监督微调（全参数，部分参数）。框架XTuner适配多种生态，多种硬件
    • 评测：OpenCompass评测平台
    • 部署：大模型语言特点，技术挑战，部署方案。LMDeploy
    • 智能体：Lagent，多模态智能体工具箱AgentLego

文章来源:https://blog.csdn.net/weixin_42748604/article/details/135379858
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。