关于非扩充context的生成技巧适用场景的疑问

国庆假期时随手浏览了文章摘要。

早上发现 Transformers 已经有支持该功能的 PR，但尚未合并到主分支。可以先通过 attention_sinks 包体验，只需添加两个参数，使用非常简便。