Datasets:

RefalMachine
/

RuLaw-ProofBench

@@ -9,7 +9,7 @@ tags:
 - russian-law
 - synthetic
 - reasoning
-pretty_name: RuLaw-ProofBench
 size_categories:
 - n<1K
 configs:
@@ -28,122 +28,109 @@ configs:
     path: data/mcq/train.parquet
 ---
-# RuLaw-ProofBench
-Синтетический русскоязычный датасет для проверки знания и применения отдельных
-норм российского права. Выпуск содержит **194 тестовых примера по
-27 статьям** и **5 отдельных демонстраций**. Он построен
-по конкретным положениям четырёх актов, выбранным для состояния на 01.01.2025.
-Область применения и временные условия указаны в самих вопросах.
-## Загрузка
-```python
-from datasets import load_dataset
-open_data = load_dataset("RefalMachine/RuLaw-ProofBench", "open")
-mcq_data = load_dataset("RefalMachine/RuLaw-ProofBench", "mcq")
-```
-`open` и `mcq` — два представления одних и тех же примеров с одинаковыми ID.
-`open` требует короткий ответ; `mcq` — выбор правильной буквы из 2–4 вариантов.
-Для повторяемых экспериментов указывайте `revision` с полным ID Hub-коммита.
-`test` используется для оценки целиком. `train` содержит только пять
-демонстраций для few-shot, а не обучающую выборку. Его статьи, нормативные
-зависимости, вопросы и ID не пересекаются с тестовой частью.
-## Состав тестовой части
-| Источник | Примеров |
 | --- | ---: |
-| Федеральный закон № 59-ФЗ «О порядке рассмотрения обращений граждан Российской Федерации» | 40 |
-| Трудовой кодекс РФ | 47 |
-| Семейный кодекс РФ | 63 |
-| Гражданский кодекс РФ | 44 |
-В 93 вопросах все необходимые факты заданы. В 57 вопросах
-некоторые факты неизвестны, но все допустимые уточнения дают одинаковый ответ.
-В 44 вопросах допустимые уточнения дают разные ответы, поэтому эталон —
-«недостаточно данных».
-## Поля
-| Поле | Содержание |
-| --- | --- |
-| `id` | Идентификатор примера, общий для open и mcq |
-| `article` | Акт и статья, например `tk:140` |
-| `domain` | `administrative`, `labor`, `family` или `civil` |
-| `question` | Условие и вопрос; в mcq также перечислены варианты |
-| `answer` | Короткий эталонный ответ |
-| `answer_unit` | Единица числового ответа либо `none` |
-| `context` | Точные тексты выбранной нормы и необходимых зависимостей |
-| `source_url` | Ссылка на официальный источник |
-| `source_locator` | Выбранная часть или пункт статьи |
-| `record_json` | Исходная запись: типизированные факты, программный вывод ответа, ссылки и связи минимальных пар |
-| `choices` | Только mcq: варианты в порядке букв A–D |
-| `answer_label` | Только mcq: правильная буква |
-| `mcq_json` | Только mcq: варианты с их буквами и привязкой к исходному примеру |
-Отдельного столбца с датой среза нет. `record_json` сохраняет исходную запись
-без изменения её содержания; временная область также остаётся в тексте вопроса.
-В режиме закрытой книги передавайте модели только `question`. В режиме
-открытой книги добавляйте `context`. Поля с ответами и `record_json` не должны
-попадать в тестовый запрос к модели.
-## Как построен датасет
-Сначала подготовлены конкретные нормативные фрагменты, необходимые отсылки
-и ограничения применимости. Затем основной алгоритм работал только с этим
-зафиксированным входом:
-1. Модель записывала норму как правило с явными условиями и исключениями.
-2. Отдельный вызов модели независимо восстанавливал правило из тех же норм,
-   без доступа к условиям, ветвям и ответам первой версии.
-3. Модель сопоставляла признаки двух версий; программа сравнивала результаты
-   на допустимых сочетаниях фактов, включая неизвестные условия.
-4. Программа создавала вопросы, вычисляла ответы и сохраняла полный вывод.
-   Варианты MCQ выбирались из объявленных исходов правила.
-5. Модель решала вопросы без эталонов и формальных правил. Разногласия
-   отдельно разбирались; неоднозначные формулировки проходили итоговый аудит.
-6. Отклонённые вопросы удалялись. Проверялись дубликаты и разделение test/train.
-Основная модель — GPT-6.1 Sol, разбор разногласий — GPT-6 Astra, с запрошенным
-reasoning effort `high`. Сборка начата через OpenRouter и продолжена через
-подписочную прослойку. Во втором маршруте не поддерживаются `max_tokens` и
-принудительный JSON-формат; JSON проверяется самим построителем. Отдельные
-вызовы одной модели не являются независимой человеческой экспертизой.
-Целью были 300 тестовых вопросов. После содержательного отбора осталось
-194; отвергнутые статьи не добавлялись для заполнения квоты.
-Проверка перед публикацией воспроизвела итог без сети, повторно вычислила
-ответы и выводы, проверила варианты MCQ и отсутствие пересечений split.
-## Оценка
-Для открытых ответов LLMTF использует normalized exact match: нормализацию
-коротких категориальных ответов и точных чисел с учётом единиц. Основная метрика —
-средняя accuracy по статьям; micro-accuracy можно сообщать отдельно. Для MCQ
-проверяется совпадение выбранной буквы с `answer_label`.
-Вопросы одной статьи и минимальные пары зависимы: статистические сравнения
-следует проводить с группировкой по стат��ям. Открытый ответ и MCQ нельзя
-считать независимыми тестами. Старые результаты на выпусках 150 или 300
-вопросов не являются результатами этого выпуска.
-## Ограничения
-Набор проверяет узкие следствия заданных норм. Он не оценивает решение
-произвольных юридических дел, поиск всей применимой нормативной базы или
-актуальность российского права сегодня. Квалификации и часть ограничений
-задаются в условии, а неизвестность фактов трактуется формально.
-Автоматические проверки подтверждают согласованность записей и правил;
-они не исключают общей ошибки интерпретации нормы моделями. Независимая
-экспертиза юристами не проводилась. Публикация может привести к попаданию
-примеров в обучение будущих моделей. Отдельная лицензия на производный
-набор пока не объявлена.
-В этом репозитории опубликованы только README и данные. Код построения
-и оценки находится в проекте [LLMTF](https://github.com/RefalMachine/llmtf_open).

 - russian-law
 - synthetic
 - reasoning
+pretty_name: RuLaw-ProofBench expanded
 size_categories:
 - n<1K
 configs:
     path: data/mcq/train.parquet
 ---
+# RuLaw-ProofBench: расширенный выпуск
+Рабочее название — RuLaw 2.0. Корпус содержит **505 тестовых вопросов
+по 71 статьям** и **20 демонстраций**. Нормативный срез —
+01.01.2025. Используются только ТК РФ, СК РФ, часть первая ГК РФ и 59-ФЗ.
+Предыдущий выпуск (194 test + 5 train) доступен по закреплённой ревизии
+`6e753317f0a7d17c92ca243c85aa0c2ef7a7cecc`. Результаты разных выпусков
+следует сопоставлять с явным указанием версии и протокола.
+Автор принял фактический состав до оценки моделей. Исходная цель баланса
+40/30/30 не является критерием этого выпуска; реальные количества приведены
+ниже. Проверки содержания и разделения train/test сохранены.
+## Протокол
+`open` и `mcq` — представления одних случаев с общими IDs. В `open` требуется
+короткий ответ, в `mcq` — буква одного из 2–4 вариантов. Вариант
+«недостаточно данных» присутствует в каждом MCQ. Он обозначает несколько
+различных выводов при допустимых уточнениях фактов, а не незнание нормы.
+Неизвестность факта не равна его отсутствию. Если все допустимые уточнения
+дают один результат, эталоном является этот результат.
+| Условия | Количество |
+| --- | ---: |
+| Полные | 280 |
+| Неполные, но однозначные | 125 |
+| Неоднозначные | 100 |
+| Область | Количество |
 | --- | ---: |
+| Обращения граждан, 59-ФЗ | 67 |
+| Трудовое право | 223 |
+| Семейное право | 114 |
+| Гражданское право, часть первая ГК РФ | 101 |
+Каждая статья содержит не более десяти тестовых вопросов. Состав типов
+условий соответствует приведённой выше таблице.
+Результаты оцениваемых моделей не использовались для отбора test.
+## Демонстрации
+`train` — отдельный пул демонстраций. Он отделён от test по основным статьям,
+нормативным зависимостям, IDs и нормализованным вопросам. Основной режим —
+фиксированный 5-shot; поддерживается также 0-shot. Порядок основной пятёрки:
+1. Полные условия, «да».
+2. Неполные однозначные условия, «нет».
+3. Полные условия, «не следует из указанной нормы».
+4. Неполные однозначные условия, числовой ответ.
+5. Неоднозначные условия числового вопроса, «недостаточно данных».
+Фиксированные IDs в этом порядке:
+- `v2-3b3b4fa138be5488a6f9`
+- `v2-40b5b87e704a2c16f022`
+- `v2-f11ba975e9a6aa85ce74`
+- `v2-53953b76036d58175e83`
+- `v2-5d800c23c8b5407341ee`
+Пятёрка использует пять разных статей и не менее трёх областей, не более двух
+примеров одной области. Из допустимых наборов выбран кратчайший по суммарной
+длине question + context в Unicode-символах; равенства разрешены по IDs.
+Она не покрывает все возможные сочетания ответа, условий и отрасли.
+## Данные и оценка
+Поля `question` и `context` содержат публичный вопрос и нормативные фрагменты.
+Закрытый режим использует только вопрос, grounded — также контекст.
+`answer`, `answer_unit`, `answer_label`, `record_json` и `mcq_json` содержат
+эталон и аудиторские сведения; их нельзя передавать модели как тестовый вход.
+`record_json` сохраняет факты, программный вывод, ссылки и связи минимальных пар.
+Основная метрика — средняя accuracy по статьям. Дополнительно сообщаются
+micro accuracy, ошибки формата, precision/recall и ложные ответы недостаточности,
+результаты по типам условий, минимальным парам и происхождению случаев.
+Интервалы сравнения моделей следует строить по статьям с проверкой устойчивости
+при объединении статей, имеющих общие нормативные зависимости.
+Open использует точное совпадение после ограниченной нормализации. Числа
+записываются цифрами: целые, точные десятичные или обыкновенные дроби; для долей
+допустимы проценты. Разрешены соответствующие единицы, включая месяцы и годы.
+Годы и месяцы не переводятся в фиксированное количество дней. Объяснения,
+словесные числительные, «до N», «не более N» и противоречивые ответы не извлекаются
+и не исправляются scorer. MCQ оценивается по вероятностям показанных букв.
+## Построение и ограничения
+Принятые нормативные фрагменты и ограничения применения подготовлены отдельно.
+Построение включает две изолированные формализации, сравнение конечных миров,
+программное вычисление эталонов, слепое решение и аудит текста. Использованы
+`gpt-6.1-sol` и `gpt-6-astra` для разбора расхождений, effort `high`.
+Согласие этих проверок не заменяет независимой экспертной юридической проверки.
+Прежние случаи повторно проверены; для каждого старого ID ведётся перечень
+сохранений и исключений. Замены на уровне статьи не выдаются за соответствие
+вопросов один к одному. Поле `origin` различает сохранённые случаи (`retained`),
+новые случаи (`new`) и случаи по переработанной формализации прежней статьи
+(`revised_article`). Последние содержат `previous_article_ids`; это связь на
+уровне статьи, а не утверждение о точном соответствии старому вопросу.
+Префикс `v2-` исторических IDs не обозначает этот выпуск:
+версия определяется manifest и контрольными суммами файлов.
+Это синтетическая проверка выбранных норм и ограниченных ситуаций, а не оценка
+всех отраслей российского права или способности давать юридические консультации.
+Исторические результаты на прежнем корпусе и прежних промптах не являются
+результатами этого выпуска. Для сравнения требуется новая генерация ответов.

data/mcq/test.parquet CHANGED Viewed

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:96115bf23d97d2376728124759f23c59037c84c30211ca7121854a0f4b6f2d33
-size 198087

 version https://git-lfs.github.com/spec/v1
+oid sha256:466691b31a948daea1648598995ce5cc30a78e7f694bb6e466d2137a60f37292
+size 1305605

data/mcq/train.parquet CHANGED Viewed

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:adb821da7a5d5d699b322b8bb5e87f75ea39238b05f8e2d4d8203df75c7d8ddb
-size 45078

 version https://git-lfs.github.com/spec/v1
+oid sha256:91413a0284ecdb72cfef5ae2a32d72819ba87bdbbf70e6593dfd568e38524c66
+size 70745

data/open/test.parquet CHANGED Viewed

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:10ea4a4bd96c4e43a1c2b337bd8ac8fdc80613623dc6d4faa293e6c71f543f71
-size 152903

 version https://git-lfs.github.com/spec/v1
+oid sha256:79643ceaf2aafb88ac158729aa1f279b7c497d0b5de095fbf0cfef6ad476d233
+size 1130771

data/open/train.parquet CHANGED Viewed

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:1a8312983b136fb1c2ca9a3e4b3896755caac8fb9a5d98bf404422c2585b5e2d
-size 33010

 version https://git-lfs.github.com/spec/v1
+oid sha256:97a6a56bb3f977fc23953ca68dc1ab1272a93875789ef693abcc69ec8a83bedf
+size 56060