MATH-thinking / README.md
titanthree's picture
Update README.md
b7fe8d2 verified
|
Raw History Blame Contribute Delete
4.22 kB
---
license: apache-2.0
language:
- en
tags:
- math
- reasoning
- grpo
- reinforcement-learning
- cleaned
- text-generation
task_categories:
- text-generation
pretty_name: MATH Thinking (Cleaned)
size_categories:
- 10K-100K
---
# MATH Thinking (Cleaned)
Dataset matematika yang sudah dibersihkan untuk melatih kemampuan penalaran (reasoning) model bahasa melalui Reinforcement Learning.
## Deskripsi Dataset?
Dataset ini adalah versi **bersih** dari dataset asli **`open-r1/DAPO-Math-17k-Processed`**. Dataset aslinya berisi **~17.000 soal matematika** yang menantang, lengkap dengan **jawaban akhir (ground truth)** yang bisa diverifikasi otomatis.
Dataset ini dirancang khusus untuk **GRPO (Group Relative Policy Optimization)** — metode Reinforcement Learning yang melatih model untuk berpikir bertahap dalam menyelesaikan soal matematika.
## Sumber Dataset Asli
| Aspek | Detail |
|-------|--------|
| **Dataset Asli** | [`open-r1/DAPO-Math-17k-Processed`](https://huggingface.co/datasets/open-r1/DAPO-Math-17k-Processed) |
| **Pembuat Asli** | Open-R1 |
| **Lisensi Asli** | Apache 2.0 |
| **Bahasa** | Inggris |
| **Format** | Prompt + Ground Truth |
Dataset ini merupakan **turunan** dari dataset asli tersebut. Kami melakukan proses cleaning untuk meningkatkan kualitas data, tanpa mengubah konten aslinya.
## Fungsi Dataset Ini
Dataset ini dirancang untuk:
- **GRPO Training** — melatih model matematika dengan Reinforcement Learning
- **Reasoning Enhancement** — meningkatkan kemampuan berpikir bertahap
- **Math Problem Solving** — melatih model menyelesaikan soal matematika
- **Verifiable Rewards** — jawaban bisa diverifikasi otomatis (cocok untuk RL)
## Struktur Dataset
Dataset ini memiliki **2 kolom**:
| Kolom | Tipe | Deskripsi |
|-------|------|-----------|
| `prompt` | string | Soal matematika |
| `ground_truth` | string | Jawaban akhir yang benar |
### Contoh Data
```json
{
"prompt": "Solve for x: 2x + 5 = 13",
"ground_truth": "4"
}
```
Proses Cleaning
Dataset ini sudah dibersihkan melalui beberapa tahap:
1. Hapus duplikat — menghilangkan prompt yang sama
2. Filter panjang — buang data yang terlalu pendek atau terlalu panjang
3. Filter ground truth kosong — buang data tanpa jawaban valid
4. Filter konten toxic — buang data yang tidak pantas
5. Normalisasi whitespace — rapikan format teks
6. Filter prompt matematika — pastikan data benar-benar soal matematika
Cara Menggunakan
Load Dataset
```python
from datasets import load_dataset
dataset = load_dataset("OpenPathAI/MATH-thinking")
print(dataset["train"][0])
```
Untuk GRPO Training
```python
from datasets import load_dataset
from trl import GRPOTrainer, GRPOConfig
dataset = load_dataset("OpenPathAI/MATH-thinking", split="train")
# Format untuk GRPO
def format_dataset(row):
return {
"prompt": [{"role": "user", "content": row["prompt"]}],
"answer": row["ground_truth"],
}
dataset = dataset.map(format_dataset)
# Setup GRPO trainer
config = GRPOConfig(
output_dir="./output",
num_train_epochs=1,
per_device_train_batch_size=1,
num_generations=4,
max_completion_length=512,
temperature=0.9,
)
trainer = GRPOTrainer(
model=model,
args=config,
train_dataset=dataset,
)
trainer.train()
```
### Statistik
Metrik Nilai
- Total samples ~13.000
- Bahasa Inggris
- Format Prompt + Ground Truth
- Lisensi Apache 2.0
- Use Case GRPO / RL Training
### Lisensi
Dataset ini dilisensikan di bawah Apache License 2.0, mengikuti lisensi dataset asli dari Open-R1.
### Sitasi
Jika kamu menggunakan dataset ini, mohon sitasi dataset asli dan dataset turunan ini:
```bibtex
@misc{dapo-math-17k,
author = {Open-R1},
title = {DAPO-Math-17k-Processed},
year = {2025},
publisher = {Hugging Face},
howpublished = {\url{https://huggingface.co/datasets/open-r1/DAPO-Math-17k-Processed}}
}
@misc{math-thinking,
author = {OpenPathAI},
title = {MATH Thinking (Cleaned)},
year = {2026},
publisher = {Hugging Face},
howpublished = {\url{https://huggingface.co/datasets/OpenPathAI/MATH-thinking}}
}
```
Kontak
- Organisasi: OpenPathAI
- Hugging Face: https://huggingface.co/OpenPathAI
- Website : https://openpath.web.id