File size: 385 Bytes
37b8560 1ce01a3 b47890f a5f6c80 710b519 a5f6c80 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 |
---
configs:
- config_name: default
data_files:
- split: train
path: data/*.parquet
language:
- zh
---
# Wikipedia-zhtw Filtered
此資料集使用 [huggingface/datatrove](https://github.com/huggingface/datatrove) 進行了系統性的資料清洗。
我們在清洗過程中應用了多種基於規則的過濾方法，移除許多過短、重複和含有噪聲的資料。 |