Baidu_Inc· @Baidu_Inc · X·· 19 小时前AI 评分
百度开源 Unlimited OCR 2,以 SR-SWA 机制支持超长文档解析
百度发布并开源 Unlimited OCR 2,通过 SR-SWA 机制将文本与视觉注意力交互压缩为固定大小的 working references,在有限上下文窗口内解析近乎任意长度的文档。随着文档增长,其单步解码延迟和内存占用接近恒定,并在 MPDocBench 和 MarathonDocBench 上达到 SOTA 性能,覆盖从数十页到数百页的文档。
Unlimited OCR 2 来了,而且它开源了。📖 ✨
更长的文档往往意味着更多的注意力计算。我们全新的 SR-SWA 机制通过将文本与视觉的注意力交互压缩为一组固定大小的工作参考,有效控制了这一开销。
它带来的成果包括:
- 在有限的上下文窗口内,几乎可以解析任意长度的文档
- 随着文档变长,每步解码的延迟和内存占用几乎保持恒定
- 在 MPDocBench 和 MarathonDocBench 上达到最先进性能,覆盖从数十页到数百页的文档
↓ 在这里查看该模型
来源:Baidu_Inc · x.com