beamsearch 实现(python)

编程入门 行业动态 更新时间:2024-10-25 15:37:09

<a href=https://www.elefans.com/category/jswz/34/960927.html style=beamsearch 实现(python)"/>

beamsearch 实现(python)

beamsearch

beamsearch 算是一种单模型的集成算法,在decoder端的每一步,不再是单纯的只生成一个token,而是beam_size大小的token,这样会生成beam_size个备选序列
而由beam_size个备选序列,继续向后扩展,会生成beam_size*beam_size个备选序列,对其进行截断,保留概率最大的beam_size备选序列
重复上述过程,直到达到最优结果 或者 达到序列最大长度
注: 该算法只在test截断使用
知乎高赞答案如下:

代码如下:

def beam_search(decoder, num_beams, max_len, *input):"""a beam search implementation about seq2seq with attention:param decoder:

更多推荐

beamsearch 实现(python)

本文发布于:2024-02-26 05:27:06,感谢您对本站的认可!
本文链接:https://www.elefans.com/category/jswz/34/1701488.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
本文标签:beamsearch   python

发布评论

评论列表 (有 0 条评论)
草根站长

>www.elefans.com

编程频道|电子爱好者 - 技术资讯及电子产品介绍!