Datasets:

Modalities:
Text
Formats:
json
Languages:
Kazakh
ArXiv:
Libraries:
Datasets
pandas
License:
pefimov commited on
Commit
c5025e0
1 Parent(s): 2b571c3

Add description to README.md

Browse files
Files changed (1) hide show
  1. README.md +96 -1
README.md CHANGED
@@ -1,4 +1,14 @@
1
  ---
 
 
 
 
 
 
 
 
 
 
2
  configs:
3
  - config_name: queries-and-passages
4
  data_files:
@@ -11,4 +21,89 @@ configs:
11
  default: true
12
  - config_name: corpus
13
  data_files: "corpus/kazqad-corpus-v1.0-kk.jsonl.gz"
14
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
+ license: cc-by-sa-4.0
3
+ task_categories:
4
+ - text-retrieval
5
+ task_ids:
6
+ - document-retrieval
7
+ language:
8
+ - kk
9
+ source_datasets:
10
+ - extended|natural_questions|wikipedia
11
+ pretty_name: KazQAD-Retrieval
12
  configs:
13
  - config_name: queries-and-passages
14
  data_files:
 
21
  default: true
22
  - config_name: corpus
23
  data_files: "corpus/kazqad-corpus-v1.0-kk.jsonl.gz"
24
+ ---
25
+
26
+ # Dataset Card for KazQAD-Retrieval
27
+
28
+ ## Dataset Description
29
+
30
+ - **Homepage:** [https://github.com/IS2AI/KazQAD](https://github.com/IS2AI/KazQAD)
31
+
32
+ ### Dataset Summary
33
+
34
+ **KazQAD** is a **Kaz**akh open-domain **Q**uestion **A**nswering **D**ataset
35
+ that can be used in both reading comprehension and full ODQA settings, as well as for information retrieval experiments.
36
+ This repository contains only the collection and relevance judgments for information retrieval task.
37
+ Short answers and data for the reading comprehension task (extractive QA) can be found [here](https://huggingface.co/datasets/issai/kazqad).
38
+
39
+ KazQAD contains just under 6,000 unique questions and nearly 12,000 passage-level relevance judgements (subset `queries-and-passages`).
40
+ The questions come from two sources: translated items from the Natural Questions (NQ) dataset (only for training) and
41
+ the original Kazakh Unified National Testing (UNT) exam (for development and testing).
42
+
43
+ The accompanying text corpus (subset `corpus`) contains more than 800,000 passages from the Kazakh Wikipedia.
44
+
45
+ IR format data (topics and qrels) can be found in our [Github repository](https://github.com/IS2AI/KazQAD).
46
+
47
+ ## Dataset Structure
48
+
49
+ ### Data Instances
50
+
51
+ An example of passage-level relevance judgements (subset `queries-and-passages`) looks as follows.
52
+
53
+ ```
54
+ {
55
+ "id": "kzh2998kzh",
56
+ "question": "Ғұндардың ру көсемдері кім болды?",
57
+ "positive_passages": [
58
+ {
59
+ "docid": "101241_28_1",
60
+ "title": "Көшпелілердегі қоғамдық қатынастар",
61
+ "text": "Хан билігі бүкіл елге қатысты жоғары саяси билік болса, ру, тайпа көлеміндегі нақты билік сол рулардан шыққан беделді ру ақсақалдарының қолында болды..."
62
+ },
63
+ ]
64
+ "negative_passages": [
65
+ {
66
+ "docid": "101241_24_1",
67
+ "title": "Көшпелілердегі қоғамдық қатынастар",
68
+ "text": "Қазақ хандарының жанында ақылшысы, кеңесшілері, төбе билері, жасақтары, іс жүргізуші мемлекеттік қызметкерлері болды..."
69
+ },
70
+ {
71
+ "docid": "79445_3_1",
72
+ "title": "Ежелгі герман тайпалары және рим империясы",
73
+ "text": "...Германдық тайпалардың негізгі шаруашылық ұясы қауым болды. Қауым мүшелері топқа бөлінбей, жерді бірлесіп өңдеді..."
74
+ },
75
+ ]
76
+ }
77
+ ```
78
+
79
+ An example of Kazakh Wikipedia collection (subset `corpus`) looks as follows.
80
+
81
+ ```
82
+ {
83
+ "docid": "101241_28_1",
84
+ "title": "Көшпелілердегі қоғамдық қатынастар",
85
+ "text": "Хан билігі бүкіл елге қатысты жоғары саяси билік болса, ру, тайпа көлеміндегі нақты билік сол рулардан шыққан беделді ру ақсақалдарының қолында болды..."
86
+ }
87
+ ```
88
+
89
+
90
+ ### Data Splits
91
+
92
+ The following table shows the number of queries (#Q), the number of positive (#P+) and negative (#P-) passages for each data split.
93
+
94
+ | **split** | **#Q** | **#P+** | **#P-** |
95
+ |:--------------:|:------:|:-------:|:-------:|
96
+ | **train** | 3,487 | 3,893 | 3,558 |
97
+ | **validation** | 548 | 769 | 229 |
98
+ | **test** | 1,929 | 2,718 | 653 |
99
+
100
+
101
+ ## Citation Information
102
+ ```
103
+ @article{kazqad,
104
+ author = {Rustem Yeshpanov, Pavel Efimov, Leonid Boytsov, Ardak Shalkarbayuli and Pavel Braslavski},
105
+ title = "{{KazQAD}: Kazakh Open-Domain Question Answering Dataset}",
106
+ journal = {},
107
+ year = 2024,
108
+ }
109
+ ```