giovanimds/universo-brasileiro

Universo Brasileiro

Corpus de pré-treino em português, filtrado e limpo a partir do GigaVerbo (TucanoBR), revisão f9c1d6a554efe8d4f586ee8318d472ee3d215dde. Foi feito para treinar o MBP, um modelo de linguagem recorrente do projeto ai-labs.

Web (GigaVerbo) completo: 1.573 de 1.573 shards (data/NNNNN.parquet, um por shard de origem), com 111.343.417 documentos mantidos de 145.300.844. 5.173.772 foram excluídos por licença, e dos elegíveis ficaram 79,5%. A deduplicação global está em dedup/ (ver abaixo); os shards não foram reescritos.

O que muda em relação ao GigaVerbo

Limpeza dentro do documento

• HTML removido e espaços normalizados, mantendo as quebras de linha e os parágrafos.
• Removidos:
  • blocos de navegação (5+ linhas curtas seguidas: "Home ⏎ Sobre ⏎ Contato");
  • linhas repetidas dentro do mesmo documento;
  • linhas de rodapé (direitos reservados, cookies, "Leia também", "Compartilhe").
• Dados pessoais mascarados: e-mail → [email], telefone → [telefone], CPF → [cpf].

Documentos removidos

regra	critério de remoção
tamanho	menos de 100 caracteres ou 25 palavras; mais de 1M caracteres
idioma	stopwords do português abaixo de 10%; mais stopwords em inglês que em português
sem acentos	menos de 2% das palavras com diacrítico (texto com acentos removidos na origem)
palavras grudadas	mais de 5% de palavras raras que se dividem em duas palavras comuns
caracteres especiais	mais de 35%
caixa alta	mais de 60% de maiúsculas nos primeiros 200 caracteres
repetição	texto comprimido com zlib menor que 15% do original
vocabulário	MATTR (TTR médio em janelas de 100 palavras) abaixo de 0,40
Gopher	comprimento médio de palavra fora de 3–10; menos de 80% das palavras com letra; mais de 90% das linhas em lista; mais de 30% das linhas terminando em reticências (com 10+ linhas)
spam	dumps de RSS do WordPress/Blogger

Documentos longos não são penalizados: o TTR do documento inteiro e o teto de 100 mil caracteres do filtro original foram trocados pelo MATTR e por um teto de 1M.

stats/NNNNN.json traz, por shard, a contagem de documentos removidos por cada regra.

Colunas

coluna	descrição
doc_id	giga_{shard}_{linha}: shard e linha no GigaVerbo de origem (chave estável)
shard_idx, line_number	posição no arquivo de origem data/train-{shard:05d}-of-01573.parquet
source_dataset	fonte original indicada pelo GigaVerbo
text	texto limpo
orig_label, orig_probs	rótulo e probabilidade do classificador educacional do GigaVerbo
chars, words, lines	tamanho do texto limpo
stopword_ratio, mattr, accent_frac, glued_frac, comp_ratio	métricas usadas nas regras
nav_dropped, repeated_dropped, footer_dropped, pii_masked	o que a limpeza removeu ou mascarou
minhash	assinatura MinHash (128 permutações, 5-gramas de palavras) para deduplicação

Fontes e licenças

O GigaVerbo agrega várias fontes, cada uma com a própria licença. Este dataset mantém apenas as que permitem redistribuir uma cópia derivada, e cada documento indica sua fonte em source_dataset.

fonte	licença
HPLT/hplt_monolingual_v1_2	CC0 1.0
dominguesm/CC-MAIN-2023-23	CC BY 4.0
eduagarcia/CrawlPT_dedup	termos de uso do Common Crawl / CC0 1.0
thegoodfellas/mc4-pt-cleaned	Apache 2.0
thegoodfellas/blogset-br	Apache 2.0
graelo/wikipedia	CC BY-SA 3.0
uonlp/CulturaX	ODC-By
pablo-moreira/gpt4all-j-prompt-generations-pt	Apache 2.0
recogna-nlp/UltrachatBR	MIT
eduagarcia/LegalPT_dedup	CC BY 4.0
Gustrd/dolly-15k-libretranslate-pt	CC BY-SA 3.0
heloisy/cosmos_qa_ptbr	CC BY 4.0
bigscience-data/roots_pt_wikiquote	CC BY-SA 3.0

Fontes excluídas: licenças não comerciais, sem derivados, desconhecidas ou com restrições próprias.

fonte	licença
MBZUAI/Bactrian-X	CC BY-NC 4.0
csebuetnlp/xlsum	CC BY-NC-SA 4.0
bigscience-data/roots_pt_ted_talks_iwslt	CC BY-NC-ND 4.0
carolina-c4ai/corpus-carolina	CC BY-NC-SA 4.0
cnmoro/Instruct-PTBR-ENUS-11M	LLaMA 2 Community License
UFRGS/brwac	desconhecida

Ao usar documentos com licença CC BY ou CC BY-SA, atribua a fonte. As obras derivadas de documentos CC BY-SA herdam essa licença.

Livros e artigos (livros/)

Fontes curadas, publicadas à parte do GigaVerbo filtrado. Cada fonte tem um adaptador próprio para leitura e limpeza. Depois, todas passam pela mesma limpeza e pelas mesmas regras da web, com dois ajustes:

• a regra extra book_old_text remove grafia antiga e ruído de OCR (menos de 90% das palavras no vocabulário moderno);
• algumas regras foram desligadas por fonte, depois de validadas em amostra.

livros/{fonte}/stats.json traz as contagens e as regras aplicadas.

fonte	conteúdo	docs mantidos	licença	ajustes
SciELO (dataseek/ptbr-scielo)	artigos científicos brasileiros em português	153.041 de 154.218	CC BY 4.0	sem book_old_text (vocabulário técnico) e sem s1_upper (títulos em caixa alta)
Wikisource (20231201.pt)	obras literárias; capítulos juntados por obra, em ordem	11.938 de 13.243	CC BY-SA 3.0	vocabulário moderno ≥ 85%; sem páginas de desambiguação e "(ortografia original)"
Wikilivros (dump ptwikibooks)	livros colaborativos; capítulos na ordem do índice do livro	688 de 838	CC BY-SA 3.0	sem book_old_text
REAMAT/UFRGS	Pré-Cálculo, Cálculo, Álgebra Linear, Cálculo Numérico, Transformadas, Análise, Computação Científica	11 de 12	CC BY-SA 3.0 (Pré-Cálculo: 4.0)	sem book_old_text e gopher_letters (fórmulas); sem créditos, gabaritos e caixas "Participe"
Livro Aberto de Matemática (IMPA/OBMEP)	matemática do ensino médio, um documento por capítulo	10 de 10	CC BY-SA	sem book_old_text (fórmulas)
Para Todxs: Natal (UFRN)	lógica formal (tradução de forall x: Calgary); provas de dedução natural em texto, com linhas numeradas	1 de 1	CC BY 4.0	sem book_old_text e gopher_letters (fórmulas)
Open Logic Project (em português)	Conjuntos, Lógica, Computação e Teoria dos Conjuntos, extraídos do PDF publicado	2 de 2	CC BY 4.0	idem
Bíblia Livre (BLIVRE, 2018)	Bíblia completa, um documento por livro bíblico	66 de 66	CC BY 4.0	sem book_old_text (genealogias)
Bíblia Portuguesa Mundial	Bíblia completa com deuterocanônicos	81 de 81	domínio público	idem
eduCAPES	itens "livro digital" e "texto" com licença CC BY ou CC BY-SA (sem NC/ND) no campo de direitos; texto extraído do PDF	158 de 169 com PDF (459 elegíveis)	CC BY / CC BY-SA, por item (coluna license)	sem book_old_text e s1_upper (capas em caixa alta)
UMinho Editora (via DOAB)	livros acadêmicos (português europeu); licença conferida na página de cada livro	47 livros (138 docs: os de mais de 900 mil caracteres foram quebrados em blocos)	CC BY 4.0	sem book_old_text e gopher_letters

Créditos exigidos: Bíblia Livre (BLIVRE), Copyright © Diego Santos, Mario Sérgio e Marco Teles, fevereiro de 2018, licença CC BY 4.0 Brasil; Para Todxs: Natal, Grupo de Estudos em Lógica da UFRN, a partir de forall x: Calgary (P. D. Magnus, Tim Button, J. Robert Loftis, Aaron Thomas-Bolduc, Robert Trueman, Richard Zach); Open Logic Project, Richard Zach et al., tradução de Pedro Lima.

O LaTeX e o RST foram convertidos com pandoc para texto puro. A matemática que não tem forma em texto puro fica em TeX ($...$). Figuras e diagramas TikZ foram removidos.

coluna	descrição
doc_id	{fonte}_{id}
source_dataset, license, title, year, url	origem e licença de cada documento
text	texto limpo
chars ... pii_masked, minhash	as mesmas métricas do corpus web, mais modern_frac (fração de vocabulário moderno)

Deduplicação (dedup/)

MinHash LSH global sobre todas as fontes: 128 permutações, 16 bandas de 8 linhas (pares a partir de Jaccard ~0,7). Os grupos são as componentes conexas. Em cada grupo fica um documento: primeiro o jurídico, depois os livros, depois a web; entre esses, o mais longo. dedup/duplicates.parquet lista os 10.540.580 documentos a descartar (8,8% de 119.748.073), com doc_id, path, o representante (keep_doc_id, keep_path) e o tamanho do grupo:

prefixo	docs	descartados
data/ (web)	111.343.417	9.971.680
juridico/	8.238.818	568.602
livros/	165.838	298

Para usar, carregue os doc_id de dedup/duplicates.parquet e filtre. eduCAPES e UMinho entraram depois dessa passada.

Embeddings (embeddings/qwen3-0.6b/)

Vetores Qwen3-Embedding-0.6B (1024 dimensões, float16) de 42.664.664 documentos web, com doc_id igual ao de data/. Também trazem kenlm_ppl e reasoning_score. Foram calculados sobre a limpeza anterior do texto e cobrem os documentos que as regras antigas aprovavam (~38% da web atual). Servem para poda por densidade semântica e para classificadores de qualidade.

Jurídico (juridico/)

Leis, decisões judiciais e atos oficiais brasileiros não são protegidos por direito autoral (Lei 9.610/98, art. 8º, IV). As regras são as mesmas dos livros, com duas desligadas: s1_upper, porque a ementa em caixa alta é convenção do gênero, e book_old_text, porque os textos são modernos. Dados pessoais são mascarados como no resto do corpus, mais CNPJ ([cnpj]). Os nomes das partes ficam como nas decisões publicadas.

fonte	conteúdo	docs mantidos	licença
legislação federal (OKF Index, texto compilado do Normas.leg.br)	CF/88, leis ordinárias, complementares e delegadas, decretos-lei; sem links de compilação e incisos só "(Revogado)"	27.972 de 29.413	base de dados ODbL 1.0: crédito a OKF Index; a base derivada (juridico/legislacao/) também é ODbL
STF (iudicium_textum, datastf do LegalPT_dedup)	acórdãos, decisões e ementas	462.472 de 463.492	ato oficial; LegalPT CC BY 4.0
TCU (acordaos_tcu)	acórdãos do Tribunal de Contas da União	442.986 de 462.031	idem
TRF5 (mlp_pt_BRCAD-5)	sentenças da Justiça Federal da 5ª Região	540.103 de 542.680	idem
TJSP (mlp_pt_CJPG)	sentenças de 1º grau do TJ de São Paulo	6.258.124 de 6.260.096	idem
Ulysses-Tesemõ (só a parte legislativa)	legislação dos 27 estados, propostas e emendas federais, diários do Congresso, da Câmara e do Senado (em blocos de até 200 mil caracteres), relatórios de comissões; sem comentários de cidadãos e sem discursos	507.161 de 520.978	ato oficial

O TJSP é muito volumoso e padronizado ("Homologo o acordo..."). O peso dele no treino deve ser decidido na mistura, e não pelo tamanho. O texto do Tesemõ foi extraído de PDF: as quebras de linha duras foram desfeitas, e os documentos com codificação quebrada caíram na regra new_no_accents.

Citação

Este dataset é derivado do GigaVerbo. Cite o trabalho original:

@misc{correa2024tucanoadvancingneuraltext,
      title={{Tucano: Advancing Neural Text Generation for Portuguese}},
      author={Corr{\^e}a, Nicholas Kluge and Sen, Aniket and Falk, Sophia and Fatimah, Shiza},
      year={2024},
      eprint={2411.07854},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2411.07854},
}