Datasets:
Tasks:
Text Retrieval
Modalities:
Text
Formats:
json
Sub-tasks:
document-retrieval
Languages:
Kazakh
Size:
100K - 1M
ArXiv:
License:
File size: 4,736 Bytes
2b571c3 c5025e0 bc46f54 c5025e0 2b571c3 c5025e0 223b70a c5025e0 bc46f54 a399968 c5025e0 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 |
---
license: cc-by-sa-4.0
task_categories:
- text-retrieval
task_ids:
- document-retrieval
language:
- kk
source_datasets:
- original
- extended|natural_questions
- extended|wikipedia
pretty_name: KazQAD-Retrieval
configs:
- config_name: queries-and-passages
data_files:
- split: train
path: "queries-and-passages/kazqad-queries-and-passages-v1.0-kk-train.jsonl.gz"
- split: validation
path: "queries-and-passages/kazqad-queries-and-passages-v1.0-kk-validation.jsonl.gz"
- split: test
path: "queries-and-passages/kazqad-queries-and-passages-v1.0-kk-test.jsonl.gz"
default: true
- config_name: corpus
data_files: "corpus/kazqad-corpus-v1.0-kk.jsonl.gz"
---
# Dataset Card for KazQAD-Retrieval
## Dataset Description
- **Repository:** [https://github.com/IS2AI/KazQAD](https://github.com/IS2AI/KazQAD)
- **Paper:** https://arxiv.org/abs/2404.04487
### Dataset Summary
**KazQAD** is a **Kaz**akh open-domain **Q**uestion **A**nswering **D**ataset
that can be used in both reading comprehension and full ODQA settings, as well as for information retrieval experiments.
This repository contains only the collection and relevance judgments for information retrieval task.
Short answers and data for the reading comprehension task (extractive QA) can be found [here](https://huggingface.co/datasets/issai/kazqad).
KazQAD contains just under 6,000 unique questions and nearly 12,000 passage-level relevance judgements (subset `queries-and-passages`).
The questions come from two sources: translated items from the Natural Questions (NQ) dataset (only for training) and
the original Kazakh Unified National Testing (UNT) exam (for development and testing).
The accompanying text corpus (subset `corpus`) contains more than 800,000 passages from the Kazakh Wikipedia.
IR format data (topics and qrels) can be found in our [Github repository](https://github.com/IS2AI/KazQAD).
## Dataset Structure
### Data Instances
An example of passage-level relevance judgements (subset `queries-and-passages`) looks as follows.
```
{
"id": "kzh2998kzh",
"question": "Ғұндардың ру көсемдері кім болды?",
"positive_passages": [
{
"docid": "101241_28_1",
"title": "Көшпелілердегі қоғамдық қатынастар",
"text": "Хан билігі бүкіл елге қатысты жоғары саяси билік болса, ру, тайпа көлеміндегі нақты билік сол рулардан шыққан беделді ру ақсақалдарының қолында болды..."
},
]
"negative_passages": [
{
"docid": "101241_24_1",
"title": "Көшпелілердегі қоғамдық қатынастар",
"text": "Қазақ хандарының жанында ақылшысы, кеңесшілері, төбе билері, жасақтары, іс жүргізуші мемлекеттік қызметкерлері болды..."
},
{
"docid": "79445_3_1",
"title": "Ежелгі герман тайпалары және рим империясы",
"text": "...Германдық тайпалардың негізгі шаруашылық ұясы қауым болды. Қауым мүшелері топқа бөлінбей, жерді бірлесіп өңдеді..."
},
]
}
```
An example of Kazakh Wikipedia collection (subset `corpus`) looks as follows.
```
{
"docid": "101241_28_1",
"title": "Көшпелілердегі қоғамдық қатынастар",
"text": "Хан билігі бүкіл елге қатысты жоғары саяси билік болса, ру, тайпа көлеміндегі нақты билік сол рулардан шыққан беделді ру ақсақалдарының қолында болды..."
}
```
### Data Splits
The following table shows the number of queries (#Q), the number of positive (#P+) and negative (#P-) passages for each data split.
| **split** | **#Q** | **#P+** | **#P-** |
|:--------------:|:------:|:-------:|:-------:|
| **train** | 3,487 | 3,893 | 3,558 |
| **validation** | 548 | 769 | 229 |
| **test** | 1,929 | 2,718 | 653 |
## Citation Information
```
@article{kazqad,
author = {Rustem Yeshpanov, Pavel Efimov, Leonid Boytsov, Ardak Shalkarbayuli and Pavel Braslavski},
title = {{KazQAD}: Kazakh Open-Domain Question Answering Dataset},
journal = {Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC-COLING 2024)},
pages = {9645--9656},
year = 2024,
}
``` |