Web Playground

Web Playground 是 Data-Juicer 的交互式可视化工具,让你在浏览器中拖动滑块调整过滤阈值、即时预览效果,快速收敛到满意的数据菜谱。

注意: Playground 需要从源码安装 Data-Juicer。


启动

在项目根目录运行:

streamlit run app.py

浏览器会自动打开 Playground 界面。


使用流程

典型的使用流程分为四步:

1. 解析配置(Parse Cfg)

指定一个菜谱(界面已预填示例)、上传你的 YAML,或覆盖参数。界面并排展示解析后的配置与原始 YAML。

2. 分析原始数据(Analyze original data)

对数据集运行分析器,展示整体统计表和各类统计量的分布图表。等同于运行 dj-analyze,但结果直接显示在界面中。

3. 处理数据(Process data)

运行完整菜谱,并排展示原始与处理后数据的统计信息对比。

4. 调优 Filter 算子

这是 Playground 的核心功能:

  • 拖动滑块调整每个 Filter 的阈值

  • 页面即时报告丢弃比例

  • 绘制标注了截断线的统计直方图

  • 列出具体的保留 vs. 丢弃样本

  • 查看各 Filter 效果的堆叠柱状图

  • 词汇多样性分析

  • 将保留/丢弃的数据分别下载为 JSONL


导出菜谱

对阈值满意后,把调优后的参数抄回你的菜谱 YAML 即可。这个「分析 → 处理 → 调优 → 导出」的闭环,是用 Data-Juicer 打磨数据菜谱的核心工作流。


下一步