Upload folder using huggingface_hub

README.md

@@ -0,0 +1,159 @@
+---
+language:
+- pt
+license: cc-by-4.0
+task_categories:
+- text-classification
+tags:
+- ncm
+- fiscal
+- nfe
+- nf-e
+- receita-federal
+- classificacao-fiscal
+- reforma-tributaria
+- benchmark
+pretty_name: RFB-bench — Soluções de Consulta NCM (COANA/COSIT)
+size_categories:
+- 1K<n<10K
+---
+
+# RFB-bench — Soluções de Consulta NCM da Receita Federal (`DominuZ/rfb-bench`) [CONFIRMAR namespace]
+
+> **Ferramenta de apoio · caráter orientativo · a responsabilidade pela classificação
+> é do contribuinte/contador.**
+
+## ⚠️ Status: extração automática PENDENTE de revisão humana
+
+Os **4.944 pares** foram extraídos automaticamente do texto dos atos e **ainda
+não passaram por revisão humana par a par** — todos carregam
+`status_verificacao = "pendente"`. Os atos de origem são decisões oficiais
+(o rótulo é vinculante na fonte); o que está pendente é a conferência de que a
+EXTRAÇÃO (descrição ↔ código) foi fiel ao texto de cada ato. Publicamos com o
+status visível em vez de esperar em silêncio: se você encontrar um par mal
+extraído, abra uma discussão neste repositório — o campo `status_verificacao`
+será atualizado conforme a revisão avançar, e versões futuras marcarão
+`aprovado`/`rejeitado` por par.
+
+---
+
+## O que é
+
+4.944 pares `(descrição da mercadoria, código NCM de 8 dígitos)` extraídos de
+**Soluções de Consulta vinculantes** da Receita Federal — decisões formais da
+Coana (Coordenação-Geral de Administração Aduaneira) e Cosit (Coordenação-Geral
+de Tributação) que fixam o NCM correto de uma mercadoria específica, case a
+case. Cobrem atos publicados entre **2014 e 2026**, coletados via API pública
+do sistema Normas da RFB (`normasinternet2.receita.fazenda.gov.br`).
+
+Diferente do restante dos dados deste projeto (descrições de item de NF-e,
+telegráficas), este dataset é **prosa jurídica formal** — o registro de um
+parecer da Receita, não de um ERP. É exatamente essa diferença de registro que
+o torna valioso como benchmark: mede se um classificador generaliza para além
+do estilo de treino mais comum, não só decora padrões de nota fiscal.
+
+## Colunas
+
+| coluna | tipo | descrição |
+|---|---|---|
+| `descricao_mercadoria` | string | descrição da mercadoria extraída do texto do ato |
+| `ncm8` | string (8 dígitos) | código NCM fixado pela Solução de Consulta |
+| `ncm8_vigente` | bool | `true` se o código ainda é válido na tabela NCM vigente; `false` para códigos já extintos (mantidos no bench — a Solução de Consulta continua provando a classificação correta *para a nomenclatura da época*) |
+| `fonte_id_ato` | — | identificador do ato de origem no sistema Normas da RFB |
+| `epigrafe` | string | epígrafe/identificação formal do ato |
+| `data_publicacao` | data | data de publicação do ato |
+| `status_verificacao` | string | `pendente` para todos os 4.944 pares atualmente (ver aviso acima) |
+
+## Números
+
+- **4.944 pares** extraídos, de 5.165 atos de classificação identificados entre
+  5.380 atos baixados com sucesso (2014-2026; 1 falha HTTP 406 isolada, tolerada).
+- **1.356 folhas NCM distintas** cobertas.
+- **4.615 pares (93,4%)** com NCM ainda vigente na tabela oficial atual; **329
+  (6,6%)** com código já extinto (mantidos com a flag `ncm8_vigente=false`).
+- Fila de **419 atos (8%)** sem par extraído com sucesso (padrão de texto não
+  reconhecido pelo extrator, ou NCM malformado) — **deliberadamente deixada de
+  fora** deste corte: 8% está abaixo do limiar que justificaria construir um
+  segundo caminho de extração assistida por modelo, e 4.944 pares já superou a
+  meta original em ~3x.
+
+## Como foi extraído (resumo — a metodologia completa está no ADR-011 do
+projeto de origem)
+
+O portal não documenta uma API de busca pública; o protocolo real (busca
+textual Lucene com filtro de ano, refinada por assunto do ato) foi descoberto
+por sondagem direta contra o servidor de produção — o filtro de órgão exposto
+pela interface web, por exemplo, é **ignorado silenciosamente** pelo servidor,
+então a extração usa termo de busca + ano + refinamento por assunto no JSON de
+cada ato, não o filtro de órgão. Outras armadilhas tratadas: falhas HTTP
+isoladas não abortam a coleta inteira; o texto "multivigente" de um ato repete
+a ementa por versão (dedupe pós-extração); atos antigos usam um rótulo
+alternativo para a descrição da mercadoria (`CÓDIGO NCM: X <descrição>` em vez
+de `Mercadoria: <descrição>`); trechos com rótulos jurídicos intercalados
+(`Ex Tipi:`) eram limpos antes de virar a descrição final.
+
+## Uso pretendido
+
+**Este dataset é EVAL, nunca treino.** Ele mede generalização de um
+classificador descrição→NCM treinado em outro estilo de texto (ex.: NF-e) contra
+prosa jurídica formal — um teste de distribuição fora do treino, não mais um
+corpus para aprender de. Qualquer pipeline de treino que use dados
+públicos de NF-e/Portal da Transparência deve rodar uma checagem de
+anti-contaminação contra este dataset antes de treinar (cópia literal é
+verificável; overlap semântico entre uma descrição de NF-e e uma descrição de
+Solução de Consulta não é garantidamente detectado por uma checagem de
+igualdade de texto — limitação conhecida).
+
+**Benchmark aberto — convidamos submissões.** Se você tem um classificador
+NCM (deste projeto ou de outra origem, incluindo abordagens comerciais), rode
+contra este held-out e publique acc@2/4/6/8. O objetivo é um campo de
+comparação público e honesto, não um número que só favoreça este projeto — um
+resultado baixo aqui não é vergonha, é a natureza de um benchmark fora de
+distribuição.
+
+## Contexto de referência (medido no modelo companheiro deste dataset)
+
+O classificador `DominuZ/ncm-classificador-bertimbau` [CONFIRMAR namespace],
+treinado majoritariamente em descrições de item de NF-e, mede acc@2 55,2% /
+acc@8 8,9% neste benchmark — bem abaixo do desempenho no próprio domínio de
+treino (76,5% acc@8 em dados reais de NF-e). Isso é reportado no model card
+dele como um desvio de distribuição esperado (prosa formal vs. telegrama de
+NF-e), não como falha de arquitetura — e é exatamente o tipo de gap que este
+benchmark existe para expor honestamente.
+
+## LGPD e privacidade
+
+Nenhum dado pessoal. As Soluções de Consulta são atos administrativos públicos
+da Receita Federal, sem identificação de partes privadas — o texto trata da
+mercadoria, não do contribuinte que fez a consulta.
+
+## Licença
+
+**CC BY 4.0** (para a compilação estruturada publicada aqui — extração,
+limpeza, dedupe, flags de vigência e organização em parquet). Os textos-fonte
+são atos oficiais da administração pública federal, que não são objeto de
+proteção autoral no Brasil (Lei 9.610/98, art. 8º, IV); a licença cobre o
+trabalho de curadoria, não os atos em si. Atribuição: cite este repositório e,
+por par, o ato de origem (`epigrafe` / `fonte_id_ato`).
+
+## Disclaimer
+
+> **Ferramenta de apoio · caráter orientativo · a responsabilidade pela
+> classificação é do contribuinte/contador.** Os pares deste dataset registram
+> decisões da Receita Federal para os casos específicos que motivaram cada
+> consulta; usar um NCM aqui presente para um item diferente do julgado exige
+> julgamento humano equivalente, não aplicação mecânica.
+
+---
+
+## English summary
+
+4,944 `(item description, 8-digit NCM code)` pairs extracted from **binding
+tax classification rulings** published by Brazil's federal tax authority
+(2014–2026 public API), covering 1,356 distinct leaf codes. Unlike the
+telegraphic invoice-item style used to train the companion model, this is
+**formal legal prose** — a genuine out-of-distribution benchmark. **All 4,944
+pairs are currently unreviewed** (`status_verificacao = pendente`); this
+dataset ships with that caveat visible rather than waiting silently. Eval-only
+by design — never used for training the companion model (contamination-guard
+tested in code). Open benchmark: submissions welcome.

rfb_bench.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cb2499aab50842cc21d4c8883253508642f8092ea189a43eba8e1ae71617fdff
+size 530943