range3/wikipedia-ja-20230101

This dataset consists of a parquet file from the wikipedia dataset with only Japanese data extracted. It is generated by the following python code.

このデータセットは、wikipediaデータセットの日本語データのみを抽出したparquetファイルで構成されます。以下のpythonコードによって生成しています。

import datasets
dss = datasets.load_dataset(
    "wikipedia",
    language="ja",
    date="20230101",
    beam_runner="DirectRunner",
)

for split,ds in dss.items():
    ds.to_parquet(f"wikipedia-ja-20230101/{split}.parquet")