Datasets:

p208p2002
/

wikipedia-zhtw-filtered

Modalities:

Formats:

Languages:

Size:

Libraries:

Dataset card Viewer Files Files and versions Community

p208p2002 commited on Jun 2

Commit

a5f6c80

•

1 Parent(s): adb4ef7

Update README.md

Files changed (1) hide show

README.md +4 -1

README.md CHANGED Viewed

@@ -9,4 +9,7 @@ language:
 ---
 # Wikipedia-zhtw Filtered
-基於 [erhwenkuo/wikipedia-zhtw](https://huggingface.co/datasets/erhwenkuo/wikipedia-zhtw) (20231001) 整理的資料，並使用 [huggingface/datatrove](https://github.com/huggingface/datatrove) 清洗資料，移除許多過短、重複和包含雜訊的文章。

 ---
 # Wikipedia-zhtw Filtered
+此資料集使用 `huggingface/datatrove` 進行了系統性的資料清洗。
+我們在清洗過程中應用了多種基於規則的過濾方法，移除許多過短、重複和含有噪聲的資料。