已开启
pipeline B性能优化-文本归一化融合、SVE2 文本向量化、SVE2 MinHash #59
pipeline B性能优化-文本归一化融合、SVE2 文本向量化、SVE2 MinHash #59
已开启
吴磊创建于 6 天前
吴磊
吴磊成员
6 天前

运行配置

输入数据	500,000 行真实 FineWeb 数据
原始数据来源	/home/wl/fineweb_edu/sample/10BT
分区数	16
执行引擎	daft_ray
Conda 环境	wl_xarch
Worker CPU 配额	3 + 2,共 5 个逻辑 CPU 配额
NUMA 绑定	Worker A:0;Worker B:2;Driver:2

优化点

1、文本归一化融合:将裁剪首尾空白、转小写、合并连续空白合成一次处理,减少重复扫描和中间结果。
2、SVE2 文本向量化:批量完成 ASCII 大小写转换和空白识别。
3、减少文本写入与复制:无空白块直接写出,有空白块才压缩,减少冗余操作。
4、复用文本缓冲区:多行复用临时内存,减少反复分配。
5、mixed 混合文本快路径:允许 ASCII 加安全 Unicode 标点走快路径,减少整行回退。
6、SVE2 MinHash 批量更新:向量化更新多个签名位置,并批处理最多 8 个哈希值,减少循环和内存访问。

image.png

likedislike
合并受阻
吴磊吴磊成员
6 天前 修改了pull request 的描述
吴磊吴磊成员
6 天前 修改标题为 “pipeline B性能优化-”,原标题为“perf(arm): consolidate SVE2 and mixed text normalization source changes”
吴磊吴磊成员
6 天前 修改标题为 “pipeline B性能优化-文本归一化融合”,原标题为“pipeline B性能优化-”
吴磊吴磊成员
6 天前 修改标题为 “pipeline B性能优化-文本归一化融合、SVE2 文本向量化”,原标题为“pipeline B性能优化-文本归一化融合”
吴磊吴磊成员
6 天前 修改标题为 “pipeline B性能优化-文本归一化融合、SVE2 文本向量化、SVE2 MinHash”,原标题为“pipeline B性能优化-文本归一化融合、SVE2 文本向量化”
吴磊吴磊成员
6 天前 修改了pull request 的描述
吴磊吴磊成员
6 天前 修改了pull request 的描述
吴磊吴磊成员
6 天前 修改了pull request 的描述
吴磊吴磊成员
6 天前 修改了pull request 的描述