Datasets:
Tasks:
Text Generation
Modalities:
Text
Formats:
parquet
Languages:
Portuguese
Size:
10K - 100K
License:
id stringlengths 26 26 | text stringlengths 500 1.29M | source stringclasses 1
value | split stringclasses 1
value |
|---|---|---|---|
mixed_ptbr-train-000000000 | "Produced by Ricardo F. Diogo, Rita Farinha and the Online\nDistributed Proofreading Team at http://(...TRUNCATED) | mixed_ptbr | train |
mixed_ptbr-train-000000001 | "Produced by Rita Farinha and the Online Distributed\nProofreading Team at http://www.pgdp.net (This(...TRUNCATED) | mixed_ptbr | train |
mixed_ptbr-train-000000002 | "Produced by Rita Farinha and the Online Distributed\nProofreading Team at https://www.pgdp.net (Thi(...TRUNCATED) | mixed_ptbr | train |
mixed_ptbr-train-000000003 | "DOM CASMURRO\n\nPOR\n\nMACHADO DE ASSIS\n\nDA ACADEMIA BRAZILEIRA\n\nH. GARNIER, LIVREIRO-EDITOR\n\(...TRUNCATED) | mixed_ptbr | train |
mixed_ptbr-train-000000004 | "Produced by Maria Helena Moreira Rodriques and Victor Calha\n\nLuís Vaz de Camões\nOs Lusíadas\n(...TRUNCATED) | mixed_ptbr | train |
mixed_ptbr-train-000000005 | "Produced by Rita Farinha and the Online Distributed\nProofreading Team at http://www.pgdp.net (This(...TRUNCATED) | mixed_ptbr | train |
mixed_ptbr-train-000000006 | "*Nota de editor:* Devido à existência de erros tipográficos neste\ntexto, foram tomadas várias (...TRUNCATED) | mixed_ptbr | train |
mixed_ptbr-train-000000007 | "*Nota de editor:* Devido à quantidade de erros tipográficos\nexistentes neste texto, foram tomada(...TRUNCATED) | mixed_ptbr | train |
mixed_ptbr-train-000000008 | "Produced by Ricardo F. Diogo, Christine P. Travers and the\nOnline Distributed Proofreading Team at(...TRUNCATED) | mixed_ptbr | train |
mixed_ptbr-train-000000009 | "Produced by Ricardo F. Diogo, Rita Farinha and the Online\nDistributed Proofreading Team at http://(...TRUNCATED) | mixed_ptbr | train |
End of preview. Expand in Data Studio
SRP GPT-2 PT-BR Corpus
Corpus público em Parquet para treino autoregressivo de modelos de linguagem em português.
Fontes
Este dataset é uma composição de textos públicos/republicáveis, com atribuição às fontes originais:
- Project Gutenberg, acessado via Gutendex API: https://www.gutenberg.org/ e https://gutendex.com/
- FineWeb2 da Hugging Face, filtrado para português/pt-BR: https://huggingface.co/datasets/HuggingFaceFW/fineweb-2
Licenciamento e atribuição
- FineWeb2 é disponibilizado sob licença ODC-By 1.0 e requer atribuição.
- Textos do Project Gutenberg geralmente são obras em domínio público nos EUA, mas cada arquivo pode conter termos do Project Gutenberg; consulte a fonte original quando redistribuir fora deste dataset.
- Este dataset mantém atribuição às fontes acima e deve ser usado respeitando os termos das fontes originais.
Colunas
id: identificador estável do documentotext: texto UTF-8 do documentosource: rótulo interno da composição do corpussplit:trainouvalidation
Tamanho
- train documents: 49,610
- validation documents: 1,032
Uso
from datasets import load_dataset
ds = load_dataset("celsowm/srp-gpt2-ptbr-corpus")
print(ds["train"][0]["text"][:200])
- Downloads last month
- 110