Hugging Face Blog·· 2025-10-27精选AI 评分
Hugging Face 改进 datasets 流式加载,请求量减少 100 倍
Streaming datasets: 100x More Efficient
Hugging Face 发布 datasets 与 huggingface_hub 的流式加载改进,load_dataset(streaming=True) 接口保持不变即可获得性能提升。
官方给出流式加载的请求量、解析速度与吞吐变化,可据此判断大规模训练的数据管线是否值得切换。
来源:Hugging Face Blog · huggingface.co