MAE 两个具体地实施过程

编程入门 行业动态 更新时间:2024-10-22 12:19:46

MAE 两个具体地<a href=https://www.elefans.com/category/jswz/34/660444.html style=实施过程"/>

MAE 两个具体地实施过程

First we generate a token for every input patch (by linear projection with an added positional embedding).

(1)首先,通过每个输入的patch,生成token,通过添加位置编码,也就说,这一步就是一个正常的编码过程,常规的过程。

Next we randomly shuffle the list of tokens and remove the last portion of the list, based on the masking ratio.

(2)然后,我们随机的shuffle这个tokens的list,也就是说对于token的顺序进行随机,然后将最后的部分进行mask掉。

更多推荐

MAE 两个具体地实施过程

本文发布于:2023-12-08 00:32:14,感谢您对本站的认可!
本文链接:https://www.elefans.com/category/jswz/34/1672104.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
本文标签:实施过程   两个   MAE

发布评论

评论列表 (有 0 条评论)
草根站长

>www.elefans.com

编程频道|电子爱好者 - 技术资讯及电子产品介绍!