AI也有困死的时候

image

问题如图,通义千问在回答中,举例证书内容的过程中,不停的生成示例证书。

image

image

最终应该是达到了对话最大长度而结束了回答,但回答的内容主要是被错误的示例证书内容占用了。

也许是因为示例的证书内容参与到了上下文联想中,并且随着这种随机内容的不断增加,而让示例生成的过程陷入了“无法自拔”的死循环中。