Web Playground¶
Web Playground 是 Data-Juicer 的交互式可视化工具,让你在浏览器中拖动滑块调整过滤阈值、即时预览效果,快速收敛到满意的数据菜谱。
注意: Playground 需要从源码安装 Data-Juicer。
启动¶
在项目根目录运行:
streamlit run app.py
浏览器会自动打开 Playground 界面。
使用流程¶
典型的使用流程分为四步:
1. 解析配置(Parse Cfg)¶
指定一个菜谱(界面已预填示例)、上传你的 YAML,或覆盖参数。界面并排展示解析后的配置与原始 YAML。
2. 分析原始数据(Analyze original data)¶
对数据集运行分析器,展示整体统计表和各类统计量的分布图表。等同于运行 dj-analyze,但结果直接显示在界面中。
3. 处理数据(Process data)¶
运行完整菜谱,并排展示原始与处理后数据的统计信息对比。
4. 调优 Filter 算子¶
这是 Playground 的核心功能:
拖动滑块调整每个 Filter 的阈值
页面即时报告丢弃比例
绘制标注了截断线的统计直方图
列出具体的保留 vs. 丢弃样本
查看各 Filter 效果的堆叠柱状图
词汇多样性分析
将保留/丢弃的数据分别下载为 JSONL
导出菜谱¶
对阈值满意后,把调优后的参数抄回你的菜谱 YAML 即可。这个「分析 → 处理 → 调优 → 导出」的闭环,是用 Data-Juicer 打磨数据菜谱的核心工作流。