RuntimeError: “slow_conv2d_cpu“ not implemented for ‘Half‘

2023-12-29 15:24:45

目录

临时解决方法：

RuntimeError: "slow_conv2d_cpu" not implemented for 'Half'

train_lora.py中：

原因：cpu不支持fp16类型，

临时解决方法：

注释掉fp16模式，

    weight_dtype = torch.float32
    if accelerator.mixed_precision == "fp16":
        weight_dtype = torch.float16
    elif accelerator.mixed_precision == "bf16":
        weight_dtype = torch.bfloat16

还有一种方法，加上cuda(),还没测试。

文章来源:https://blog.csdn.net/jacke121/article/details/135288202
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。