报错：RuntimeError: Adam does not support sparse gradients, please consider SparseAdam instead

编程知识更新时间:2023-05-02 05:34:20

日萌社

人工智能AI：Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战（不定时更新）

    使用torch.optim.Adam(model.parameters(), lr=0.1)后报错如下：
        RuntimeError: Adam does not support sparse gradients, please consider SparseAdam instead
    分析：因为Adam的关系，所以nn.Embedding(vocab_size, embed_dim, sparse=True)中的sparse不能等于True，必须为False
    解决：nn.Embedding(vocab_size, embed_dim, sparse=False)

更多推荐

报错：RuntimeError: Adam does not support sparse gradients, please consider SparseA

本文发布于:2023-04-26 07:17:00，感谢您对本站的认可！

本文链接:https://www.elefans.com/category/jswz/9aa8ffaed3dc7283d036c5eef2f7c363.html