跳到正文
原文
Hugging Face Blog·· 15 天前AI 评分32

Hugging Face tokenizers v1:编码、解码与实测扩展性

AI 导读

Hugging Face 发布 tokenizers v1 候选版,输出与 v0.23 完全一致的 token ID,但速度常快数十倍。v1 将单个 crate 拆为 workspace,用 bitcannon 以 SIMD 位流替代正则做预分词,并引入无分配 merge 循环、线程本地 word cache 和原生多线程并行。

当前提供 AI 导读,完整正文请阅读原文。

来源:Hugging Face Blog · huggingface.co