RuntimeError: “slow_conv2d_cpu“ not implemented for ‘Half‘

2023-12-29 15:24:45

目录

临时解决方法:


RuntimeError: "slow_conv2d_cpu" not implemented for 'Half'

train_lora.py中:

原因:cpu不支持fp16类型,

临时解决方法:

注释掉fp16模式,

    weight_dtype = torch.float32
    if accelerator.mixed_precision == "fp16":
        weight_dtype = torch.float16
    elif accelerator.mixed_precision == "bf16":
        weight_dtype = torch.bfloat16

还有一种方法,加上cuda(),还没测试。

文章来源:https://blog.csdn.net/jacke121/article/details/135288202
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。