---
language:
- ja
---

## 概要
大喜利投稿サイトBoketeのクロールデータです。  
元データは CLoT-Oogiri-Go [Zhang et al., CVPR2024]というデータの一部です。元データにはこの他に英語・中国語の同様のミーム投稿サイトのクロールデータが含まれますが、提供するデータは日本語のデータのみにしてあります。  
詳細は[CVPRのプロジェクトページ](https://zhongshsh.github.io/CLoT/)をご確認ください。  

このデータは以下の3タスクが含まれます。  

* text-to-text (T2T): テキストでお題が渡され、それに対する回答を返します。このデータセットでは、テキストも画像になっています。
* image-to-text (I2T): いわゆる「画像で一言」です。画像のみが渡されて、テキストによる回答を返します。
* text and image-to-text (IT2T): テキスト情報も入っている画像が渡され、そこから機転の効いた回答を返すタスクです。漫画の吹き出しの空欄埋めなど。

## データの前処理

1. T2TタスクとIT2Tタスクで使う画像に書かれている文字列の文字起こし。OpenAI APIで文字起こしを実行しました。
2. データに含まれるテキスト（回答とステップ1の文字起こし結果）から、不適切な表現を含む文を削除。フィルタリングには HojiChar[[リンク](https://github.com/HojiChar/HojiChar)] を用いました。
3. ステップ2で全ての回答が消えたお題や、お題自体に不適切表現が含まれる場合はお題とその画像を削除  

HojiCharで使ったフィルタは以下の通りです。  
   * hojichar.document_filters.DiscardAdultContentJa()
   * hojichar.document_filters.DiscardAdultContentEn()
   * hojichar.document_filters.DiscardViolenceContentJa()
   * hojichar.document_filters.DiscardDiscriminationContentJa()
   * hojichar.document_filters.DocumentLengthFilter(min_doc_len=0, max_doc_len=100)

### OCR
2024年07月21日に、OpenAI APIの gpt-4oに画像と下記プロンプトを与えてOCRを実行しました。  
IT2Tタスクでは画像中に穴埋め用の空欄が用意されていますので、GPTで検出できた場合は "[空欄]" として出力させています。

> この画像から文字起こししてください。画像中の文字以外の情報は書かないでください。1文字もない場合は [なし] を返してください。空欄になっている部分は特殊記号 [空欄] で置き換えてください。

## ライセンス
元データにしたCLoTの[HuggingFace Hub](https://huggingface.co/datasets/zhongshsh/CLoT-Oogiri-GO)には以下のような記載があります。  

> License: Creative Commons Attribution 4.0 International. We also adhere to the terms of use from any of the data sources, such as Bokete and Zhihu. If you have any concerns regarding this dataset, especially if you believe it infringes upon your legal rights, please feel free to contact us. We will promptly review any issues raised and respond accordingly.

Boketeの規約上は問題ないと思われますが、BoketeのユーザがBoketeにアップロードした画像は著作権上問題がありそうなものが散見されます。  
このハッカソン以外で用いる場合はZhangらの原本を各自でクリーニングして用いることを勧めます。

## データセットの各カラム説明
| カラム名 | 型 | 例 | 概要 |
| --- | --- | --- | --- |
| image | int | 6094670 | 画像のID。それぞれ"{image}.jpg"という画像に対応している。 |
| type | str | T2T | I2T, T2T, IT2Tのどれかが入っている。
| odai | str | ボケてあるあるを教えてください。 | I2Tの場合は"画像で一言"という文字列が格納されている。そのほかの場合は画像からOCRした結果が格納されている。 |
| response | str | ハマって睡眠不足 | そのお題に対する回答 |
| star | int | 3 | Bokete上での投票数 |




## リファレンス

* @misc{zhong2023clot,
  title={Let's Think Outside the Box: Exploring Leap-of-Thought in Large Language Models with Creative Humor Generation},
  author={Zhong, Shanshan and Huang, Zhongzhan and Gao, Shanghua and Wen, Weushao and Lin, Liang and Zitnik, Marinka and Zhou, Pan},
  journal={arXiv preprint arXiv:2312.02439},
  year={2023}
}
* Shinzato, K. (2023). HojiChar: The text processing pipeline (Version 0.9.0) [Computer software]. https://github.com/HojiChar/HojiChar