Lava多模态大模型调试(基于vscode框架)

2024-01-10 06:55:30

文章目录

前言

之前博客这里介绍LLava1.5多模态大模型的安装、训练、预测等。但对于你想查看源码或多或少都有些麻烦，也不利于代码调试。基于此，本文是一篇基于vscode框架调试llava大模型的教程。

一、整体概括

我是在一张4090显卡调试llava代码，使用vscode编译器调试。我之所以能调试是我更改llava层，如下图。至于，你想了解环境安装或数据处理等，请参考我之前博客这里。本文是大致说明vscode调试代码。

在这里插入图片描述

二、launch.json文件配置

之前，一直不太会使用vscode配置大模型训练与预测参数，但你掌握了其launch.json配置，你将会觉得简单。你想了解详细，也可参考我的博客这里，而llava模型配置如下：

{
   
   
    "version": "0.2.0",
    "configurations": [

        
        {
   
            "name": "finetune_llava_lora",
            "type": "python",
            "request": "launch",
            //"python": "/home/miniconda3/envs/dp/bin/python", // 指定python解释器
            "program": "/home/anaconda3/envs/llava/bin/deepspeed",
            "console": "integratedTermina

文章来源:https://blog.csdn.net/weixin_38252409/article/details/135392181
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。