Datasets:

DominuZ
/

rfb-bench

@@ -1,159 +1,159 @@
----
-language:
-- pt
-license: cc-by-4.0
-task_categories:
-- text-classification
-tags:
-- ncm
-- fiscal
-- nfe
-- nf-e
-- receita-federal
-- classificacao-fiscal
-- reforma-tributaria
-- benchmark
-pretty_name: RFB-bench — Soluções de Consulta NCM (COANA/COSIT)
-size_categories:
-- 1K<n<10K
----
-# RFB-bench — Soluções de Consulta NCM da Receita Federal (`DominuZ/rfb-bench`) [CONFIRMAR namespace]
-> **Ferramenta de apoio · caráter orientativo · a responsabilidade pela classificação
-> é do contribuinte/contador.**
-## ⚠️ Status: extração automática PENDENTE de revisão humana
-Os **4.944 pares** foram extraídos automaticamente do texto dos atos e **ainda
-não passaram por revisão humana par a par** — todos carregam
-`status_verificacao = "pendente"`. Os atos de origem são decisões oficiais
-(o rótulo é vinculante na fonte); o que está pendente é a conferência de que a
-EXTRAÇÃO (descrição ↔ código) foi fiel ao texto de cada ato. Publicamos com o
-status visível em vez de esperar em silêncio: se você encontrar um par mal
-extraído, abra uma discussão neste repositório — o campo `status_verificacao`
-será atualizado conforme a revisão avançar, e versões futuras marcarão
-`aprovado`/`rejeitado` por par.
----
-## O que é
-4.944 pares `(descrição da mercadoria, código NCM de 8 dígitos)` extraídos de
-**Soluções de Consulta vinculantes** da Receita Federal — decisões formais da
-Coana (Coordenação-Geral de Administração Aduaneira) e Cosit (Coordenação-Geral
-de Tributação) que fixam o NCM correto de uma mercadoria específica, case a
-case. Cobrem atos publicados entre **2014 e 2026**, coletados via API pública
-do sistema Normas da RFB (`normasinternet2.receita.fazenda.gov.br`).
-Diferente do restante dos dados deste projeto (descrições de item de NF-e,
-telegráficas), este dataset é **prosa jurídica formal** — o registro de um
-parecer da Receita, não de um ERP. É exatamente essa diferença de registro que
-o torna valioso como benchmark: mede se um classificador generaliza para além
-do estilo de treino mais comum, não só decora padrões de nota fiscal.
-## Colunas
-| coluna | tipo | descrição |
-|---|---|---|
-| `descricao_mercadoria` | string | descrição da mercadoria extraída do texto do ato |
-| `ncm8` | string (8 dígitos) | código NCM fixado pela Solução de Consulta |
-| `ncm8_vigente` | bool | `true` se o código ainda é válido na tabela NCM vigente; `false` para códigos já extintos (mantidos no bench — a Solução de Consulta continua provando a classificação correta *para a nomenclatura da época*) |
-| `fonte_id_ato` | — | identificador do ato de origem no sistema Normas da RFB |
-| `epigrafe` | string | epígrafe/identificação formal do ato |
-| `data_publicacao` | data | data de publicação do ato |
-| `status_verificacao` | string | `pendente` para todos os 4.944 pares atualmente (ver aviso acima) |
-## Números
-- **4.944 pares** extraídos, de 5.165 atos de classificação identificados entre
-  5.380 atos baixados com sucesso (2014-2026; 1 falha HTTP 406 isolada, tolerada).
-- **1.356 folhas NCM distintas** cobertas.
-- **4.615 pares (93,4%)** com NCM ainda vigente na tabela oficial atual; **329
-  (6,6%)** com código já extinto (mantidos com a flag `ncm8_vigente=false`).
-- Fila de **419 atos (8%)** sem par extraído com sucesso (padrão de texto não
-  reconhecido pelo extrator, ou NCM malformado) — **deliberadamente deixada de
-  fora** deste corte: 8% está abaixo do limiar que justificaria construir um
-  segundo caminho de extração assistida por modelo, e 4.944 pares já superou a
-  meta original em ~3x.
-## Como foi extraído (resumo — a metodologia completa está no ADR-011 do
-projeto de origem)
-O portal não documenta uma API de busca pública; o protocolo real (busca
-textual Lucene com filtro de ano, refinada por assunto do ato) foi descoberto
-por sondagem direta contra o servidor de produção — o filtro de órgão exposto
-pela interface web, por exemplo, é **ignorado silenciosamente** pelo servidor,
-então a extração usa termo de busca + ano + refinamento por assunto no JSON de
-cada ato, não o filtro de órgão. Outras armadilhas tratadas: falhas HTTP
-isoladas não abortam a coleta inteira; o texto "multivigente" de um ato repete
-a ementa por versão (dedupe pós-extração); atos antigos usam um rótulo
-alternativo para a descrição da mercadoria (`CÓDIGO NCM: X <descrição>` em vez
-de `Mercadoria: <descrição>`); trechos com rótulos jurídicos intercalados
-(`Ex Tipi:`) eram limpos antes de virar a descrição final.
-## Uso pretendido
-**Este dataset é EVAL, nunca treino.** Ele mede generalização de um
-classificador descrição→NCM treinado em outro estilo de texto (ex.: NF-e) contra
-prosa jurídica formal — um teste de distribuição fora do treino, não mais um
-corpus para aprender de. Qualquer pipeline de treino que use dados
-públicos de NF-e/Portal da Transparência deve rodar uma checagem de
-anti-contaminação contra este dataset antes de treinar (cópia literal é
-verificável; overlap semântico entre uma descrição de NF-e e uma descrição de
-Solução de Consulta não é garantidamente detectado por uma checagem de
-igualdade de texto — limitação conhecida).
-**Benchmark aberto — convidamos submissões.** Se você tem um classificador
-NCM (deste projeto ou de outra origem, incluindo abordagens comerciais), rode
-contra este held-out e publique acc@2/4/6/8. O objetivo é um campo de
-comparação público e honesto, não um número que só favoreça este projeto — um
-resultado baixo aqui não é vergonha, é a natureza de um benchmark fora de
-distribuição.
-## Contexto de referência (medido no modelo companheiro deste dataset)
-O classificador `DominuZ/ncm-classificador-bertimbau` [CONFIRMAR namespace],
-treinado majoritariamente em descrições de item de NF-e, mede acc@2 55,2% /
-acc@8 8,9% neste benchmark — bem abaixo do desempenho no próprio domínio de
-treino (76,5% acc@8 em dados reais de NF-e). Isso é reportado no model card
-dele como um desvio de distribuição esperado (prosa formal vs. telegrama de
-NF-e), não como falha de arquitetura — e é exatamente o tipo de gap que este
-benchmark existe para expor honestamente.
-## LGPD e privacidade
-Nenhum dado pessoal. As Soluções de Consulta são atos administrativos públicos
-da Receita Federal, sem identificação de partes privadas — o texto trata da
-mercadoria, não do contribuinte que fez a consulta.
-## Licença
-**CC BY 4.0** (para a compilação estruturada publicada aqui — extração,
-limpeza, dedupe, flags de vigência e organização em parquet). Os textos-fonte
-são atos oficiais da administração pública federal, que não são objeto de
-proteção autoral no Brasil (Lei 9.610/98, art. 8º, IV); a licença cobre o
-trabalho de curadoria, não os atos em si. Atribuição: cite este repositório e,
-por par, o ato de origem (`epigrafe` / `fonte_id_ato`).
-## Disclaimer
-> **Ferramenta de apoio · caráter orientativo · a responsabilidade pela
-> classificação é do contribuinte/contador.** Os pares deste dataset registram
-> decisões da Receita Federal para os casos específicos que motivaram cada
-> consulta; usar um NCM aqui presente para um item diferente do julgado exige
-> julgamento humano equivalente, não aplicação mecânica.
----
-## English summary
-4,944 `(item description, 8-digit NCM code)` pairs extracted from **binding
-tax classification rulings** published by Brazil's federal tax authority
-(2014–2026 public API), covering 1,356 distinct leaf codes. Unlike the
-telegraphic invoice-item style used to train the companion model, this is
-**formal legal prose** — a genuine out-of-distribution benchmark. **All 4,944
-pairs are currently unreviewed** (`status_verificacao = pendente`); this
-dataset ships with that caveat visible rather than waiting silently. Eval-only
-by design — never used for training the companion model (contamination-guard
-tested in code). Open benchmark: submissions welcome.

+---
+language:
+- pt
+license: cc-by-4.0
+task_categories:
+- text-classification
+tags:
+- ncm
+- fiscal
+- nfe
+- nf-e
+- receita-federal
+- classificacao-fiscal
+- reforma-tributaria
+- benchmark
+pretty_name: RFB-bench — Soluções de Consulta NCM (COANA/COSIT)
+size_categories:
+- 1K<n<10K
+---
+# RFB-bench — Soluções de Consulta NCM da Receita Federal (`DominuZ/rfb-bench`)
+> **Ferramenta de apoio · caráter orientativo · a responsabilidade pela classificação
+> é do contribuinte/contador.**
+## ⚠️ Status: extração automática PENDENTE de revisão humana
+Os **4.944 pares** foram extraídos automaticamente do texto dos atos e **ainda
+não passaram por revisão humana par a par** — todos carregam
+`status_verificacao = "pendente"`. Os atos de origem são decisões oficiais
+(o rótulo é vinculante na fonte); o que está pendente é a conferência de que a
+EXTRAÇÃO (descrição ↔ código) foi fiel ao texto de cada ato. Publicamos com o
+status visível em vez de esperar em silêncio: se você encontrar um par mal
+extraído, abra uma discussão neste repositório — o campo `status_verificacao`
+será atualizado conforme a revisão avançar, e versões futuras marcarão
+`aprovado`/`rejeitado` por par.
+---
+## O que é
+4.944 pares `(descrição da mercadoria, código NCM de 8 dígitos)` extraídos de
+**Soluções de Consulta vinculantes** da Receita Federal — decisões formais da
+Coana (Coordenação-Geral de Administração Aduaneira) e Cosit (Coordenação-Geral
+de Tributação) que fixam o NCM correto de uma mercadoria específica, case a
+case. Cobrem atos publicados entre **2014 e 2026**, coletados via API pública
+do sistema Normas da RFB (`normasinternet2.receita.fazenda.gov.br`).
+Diferente do restante dos dados deste projeto (descrições de item de NF-e,
+telegráficas), este dataset é **prosa jurídica formal** — o registro de um
+parecer da Receita, não de um ERP. É exatamente essa diferença de registro que
+o torna valioso como benchmark: mede se um classificador generaliza para além
+do estilo de treino mais comum, não só decora padrões de nota fiscal.
+## Colunas
+| coluna | tipo | descrição |
+|---|---|---|
+| `descricao_mercadoria` | string | descrição da mercadoria extraída do texto do ato |
+| `ncm8` | string (8 dígitos) | código NCM fixado pela Solução de Consulta |
+| `ncm8_vigente` | bool | `true` se o código ainda é válido na tabela NCM vigente; `false` para códigos já extintos (mantidos no bench — a Solução de Consulta continua provando a classificação correta *para a nomenclatura da época*) |
+| `fonte_id_ato` | — | identificador do ato de origem no sistema Normas da RFB |
+| `epigrafe` | string | epígrafe/identificação formal do ato |
+| `data_publicacao` | data | data de publicação do ato |
+| `status_verificacao` | string | `pendente` para todos os 4.944 pares atualmente (ver aviso acima) |
+## Números
+- **4.944 pares** extraídos, de 5.165 atos de classificação identificados entre
+  5.380 atos baixados com sucesso (2014-2026; 1 falha HTTP 406 isolada, tolerada).
+- **1.356 folhas NCM distintas** cobertas.
+- **4.615 pares (93,4%)** com NCM ainda vigente na tabela oficial atual; **329
+  (6,6%)** com código já extinto (mantidos com a flag `ncm8_vigente=false`).
+- Fila de **419 atos (8%)** sem par extraído com sucesso (padrão de texto não
+  reconhecido pelo extrator, ou NCM malformado) — **deliberadamente deixada de
+  fora** deste corte: 8% está abaixo do limiar que justificaria construir um
+  segundo caminho de extração assistida por modelo, e 4.944 pares já superou a
+  meta original em ~3x.
+## Como foi extraído (resumo — a metodologia completa está no ADR-011 do
+projeto de origem)
+O portal não documenta uma API de busca pública; o protocolo real (busca
+textual Lucene com filtro de ano, refinada por assunto do ato) foi descoberto
+por sondagem direta contra o servidor de produção — o filtro de órgão exposto
+pela interface web, por exemplo, é **ignorado silenciosamente** pelo servidor,
+então a extração usa termo de busca + ano + refinamento por assunto no JSON de
+cada ato, não o filtro de órgão. Outras armadilhas tratadas: falhas HTTP
+isoladas não abortam a coleta inteira; o texto "multivigente" de um ato repete
+a ementa por versão (dedupe pós-extração); atos antigos usam um rótulo
+alternativo para a descrição da mercadoria (`CÓDIGO NCM: X <descrição>` em vez
+de `Mercadoria: <descrição>`); trechos com rótulos jurídicos intercalados
+(`Ex Tipi:`) eram limpos antes de virar a descrição final.
+## Uso pretendido
+**Este dataset é EVAL, nunca treino.** Ele mede generalização de um
+classificador descrição→NCM treinado em outro estilo de texto (ex.: NF-e) contra
+prosa jurídica formal — um teste de distribuição fora do treino, não mais um
+corpus para aprender de. Qualquer pipeline de treino que use dados
+públicos de NF-e/Portal da Transparência deve rodar uma checagem de
+anti-contaminação contra este dataset antes de treinar (cópia literal é
+verificável; overlap semântico entre uma descrição de NF-e e uma descrição de
+Solução de Consulta não é garantidamente detectado por uma checagem de
+igualdade de texto — limitação conhecida).
+**Benchmark aberto — convidamos submissões.** Se você tem um classificador
+NCM (deste projeto ou de outra origem, incluindo abordagens comerciais), rode
+contra este held-out e publique acc@2/4/6/8. O objetivo é um campo de
+comparação público e honesto, não um número que só favoreça este projeto — um
+resultado baixo aqui não é vergonha, é a natureza de um benchmark fora de
+distribuição.
+## Contexto de referência (medido no modelo companheiro deste dataset)
+O classificador [`DominuZ/ncm-classificador-bertimbau`](https://huggingface.co/DominuZ/ncm-classificador-bertimbau),
+treinado majoritariamente em descrições de item de NF-e, mede acc@2 55,2% /
+acc@8 8,9% neste benchmark — bem abaixo do desempenho no próprio domínio de
+treino (76,5% acc@8 em dados reais de NF-e). Isso é reportado no model card
+dele como um desvio de distribuição esperado (prosa formal vs. telegrama de
+NF-e), não como falha de arquitetura — e é exatamente o tipo de gap que este
+benchmark existe para expor honestamente.
+## LGPD e privacidade
+Nenhum dado pessoal. As Soluções de Consulta são atos administrativos públicos
+da Receita Federal, sem identificação de partes privadas — o texto trata da
+mercadoria, não do contribuinte que fez a consulta.
+## Licença
+**CC BY 4.0** (para a compilação estruturada publicada aqui — extração,
+limpeza, dedupe, flags de vigência e organização em parquet). Os textos-fonte
+são atos oficiais da administração pública federal, que não são objeto de
+proteção autoral no Brasil (Lei 9.610/98, art. 8º, IV); a licença cobre o
+trabalho de curadoria, não os atos em si. Atribuição: cite este repositório e,
+por par, o ato de origem (`epigrafe` / `fonte_id_ato`).
+## Disclaimer
+> **Ferramenta de apoio · caráter orientativo · a responsabilidade pela
+> classificação é do contribuinte/contador.** Os pares deste dataset registram
+> decisões da Receita Federal para os casos específicos que motivaram cada
+> consulta; usar um NCM aqui presente para um item diferente do julgado exige
+> julgamento humano equivalente, não aplicação mecânica.
+---
+## English summary
+4,944 `(item description, 8-digit NCM code)` pairs extracted from **binding
+tax classification rulings** published by Brazil's federal tax authority
+(2014–2026 public API), covering 1,356 distinct leaf codes. Unlike the
+telegraphic invoice-item style used to train the companion model, this is
+**formal legal prose** — a genuine out-of-distribution benchmark. **All 4,944
+pairs are currently unreviewed** (`status_verificacao = pendente`); this
+dataset ships with that caveat visible rather than waiting silently. Eval-only
+by design — never used for training the companion model (contamination-guard
+tested in code). Open benchmark: submissions welcome.