You need to agree to share your contact information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

tw-wiki-chat-R1

資料集概述

  • 來源:以維基百科文本片段為基礎的問答資料集,處理歷經兩個階段目錄:初版產出於 /data/sdg_data/wiki_less,後續精煉整理於 /data/datasets/simple-sft/wiki_crawl
  • 用途:訓練模型以繁體中文(台灣用語)回答知識型問題,並具備 <think> 推理過程,SFT / instruction tuning 用。
  • 主要輸出:datasets.jsonl(2,535 筆)

Splits

Split 檔案 說明
train datasets.jsonl 單一訓練 split,包含完整 2,535 筆資料

資料處理流程(以實作腳本為準)

  1. 出題batch_generate_problem.py / batch_generate_problem_gemini.py):以維基文本片段為依據,用 Qwen3-30B-A3B(部分用 Gemini 版本腳本)針對每份文件生成 3 題問題(其中一題須為能通盤理解該文件主題的問題),系統提示要求以台灣地區用語生成(如「信息→資料/資訊/訊息」「網絡→網路」),且禁止是非題、禁止臆測未支持的內容。
  2. 答案生成batch_generate_qa.py):以「問題 + 相關文本」送 F1-24B-Reasoner,將文本視為已內化知識作答;系統提示嚴格禁止在答案中提及或暗示「根據提供的文本/文件/資料」等來源字眼,並要求台灣繁體中文(zh-tw)、正式精確的風格。
  3. 思考改寫(rethink)batch_generate_refine_think.py):以 ACE-2-2602 把原始推理過程改寫成流暢的內心獨白(開頭如「嗯」「好的」),同樣禁止洩漏來源/提示詞痕跡,強制使用台灣用語與全形標點,輸出為 refine_think 欄位。
  4. 整併組裝成 messages(含 think 推理內容)與 simple_messages(不含推理)兩種對話格式,輸出為 datasets.jsonl

註:wiki_lesswiki_crawl 之間的資料篩選/去重/合併細節未見獨立腳本紀錄,以上流程以現存腳本可查證的三個生成階段為準。

主要檔案對照

階段 檔案 用途
最終資料集 datasets.jsonl HF 可用訓練資料

欄位說明

欄位 說明
prompt_id 題目唯一識別碼。
title 來源維基條目標題。
original_query 原始查詢/問題。
question 使用者提問文字。
think 原始推理過程。
answer 最終回答內容。
refine_think_messages 送入 rethink 階段的訊息。
refine_think ACE-2-2602 改寫後的流暢思考獨白。
final_stop_reason 生成結束原因。
model 產生該筆資料所用的模型名稱。
messages 完整對話格式,assistant 內容含 <think>refine_think)+ 最終回答。
simple_messages 對話格式,assistant 內容不含思考過程。
text / anneal_text 全文純文字拼接版本。
source_id 來源文件識別碼。

目前資料統計

  • datasets.jsonl:2,535 筆
  • 語言:zh-tw

使用方式(最小示例)

import json

with open("datasets.jsonl", "r", encoding="utf-8") as f:
    sample = json.loads(next(f))

print(sample.keys())

限制與備註

  • 答案生成階段刻意隱匿來源文件的存在(避免模型學到「引用文件」的說話方式),因此答案的事實正確性依賴來源文本本身與模型生成品質,未另做獨立事實查核。
  • refine_think 為改寫後的思考過程,非模型原始推理軌跡,用於訓練「像人一樣思考」的內心獨白風格。

污染修復情況(2026-08-11)

  • 修復方式:污染掃描(詞庫驅動,/data/sdg_data/sdg_pipeline/lexicon/lexicon.yaml)→ scan-triage 逐筆人工判讀「真污染 / 誤報」→ 只修真污染;簡繁/大陸用語為逐詞判讀替換,非 OpenCC 整篇轉換(避免把已正確的繁體改壞)
  • 修復範圍:僅修改 assistant 角色內容(user/tool/system 未動,訓練時本就被 mask)
  • 本次修復筆數:污染清理 38 筆,其中 34 筆是回復前一輪清理的錯誤——先前把物理領域正確用詞「質量」誤改成「臨界品質」,本次已還原並回饋詞庫(避免同樣的盲替再次發生)
  • 完整逐筆 before/after 對照:見 fix_0811_before_after.jsonl

補充修復(2026-08-13)

  • 修復類型:跨語系混雜(韓文音節被漢字誤植取代,如節目名 휴먼비잉 被寫成 休멍비잉
  • 本次修復筆數:1 筆
  • 完整逐筆 before/after 對照:見 wedge_fix_0813.jsonl
  • 本輪為針對性清理(跨語系誤植與注音損壞),非全文重新掃描,不代表已排除其他類型污染。
Downloads last month
17

Collection including minyichen/tw-wiki-chat-R1