beamsearch 实现(python)"/>
beamsearch 实现(python)
beamsearch
beamsearch 算是一种单模型的集成算法,在decoder端的每一步,不再是单纯的只生成一个token,而是beam_size大小的token,这样会生成beam_size个备选序列
而由beam_size个备选序列,继续向后扩展,会生成beam_size*beam_size个备选序列,对其进行截断,保留概率最大的beam_size备选序列
重复上述过程,直到达到最优结果 或者 达到序列最大长度
注: 该算法只在test截断使用
知乎高赞答案如下:
代码如下:
def beam_search(decoder, num_beams, max_len, *input):"""a beam search implementation about seq2seq with attention:param decoder:
更多推荐
beamsearch 实现(python)
发布评论