Til Web, Crawls and Archive
Collection
Web text, crawls and archived sources for pretraining corpora. Веб-тексты, обходы сайтов и архивные источники для корпусов предобучения. • 11 items • Updated
Datasets:
You need to agree to share your contact information to access this dataset
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
Бұл репозиторийге қолжетімділік өтінім бойынша беріледі. Өзіңіз туралы және деректерді қалай қолданатыңыз туралы жазыңыз — өтінімді TilQazyna командасы қарайды. · Доступ к репозиторию выдаётся по заявке. Расскажите о себе и о том, как собираетесь использовать данные — заявку рассматривает команда TilQazyna. · Access to this repository is granted on request. Tell us who you are and how you plan to use the material; the TilQazyna team reviews each application.
Log in or Sign Up to review the conditions and access this dataset content.
Til-Zharar-v2
Қазақ тіліндегі оқу материалдары корпусы · Корпус учебных материалов на казахском языке · Kazakh study-material corpus
Қазақша
Til-Zharar-v2 — zharar.com сайтындағы қазақ тіліндегі эссе, шығарма, оқу жоспары, реферат және өлеңдер корпусы, көлемі 1.06 ГБ. Беттегі мәтінмен бірге тіркелген құжаттардан алынған толық мәтін де сақталған.
Құрамы
| Конфиг | Мазмұны |
|---|---|
processed |
Бағаланған және деңгейге бөлінген оқу мәтіндері |
raw |
Сапа бағалауына дейінгі беттер мен құжат мәтіндері |
Жүйе тіркелген docx, pptx және pdf файлдарын жүктеп, абзацтар мен кестелердегі мәтінді шығарады. text өрісіне файлдағы немесе беттегі толығырақ нұсқа түседі. Сапа бағасы, санат, тіл, қазақша мәтін үлесі және деңгей бөлек өрістерде сақталады. is_scan белгісі мазмұны сурет түрінде сақталған құжаттарды көрсетеді; олардың суреттеріне OCR жасалмаған.
Қалай жүктеуге болады
from datasets import load_dataset
ds = load_dataset("TilQazyna/Til-Zharar-v2", "processed", split="train", streaming=True)
print(next(iter(ds)))
Сапаны бағалауға дейінгі материал үшін raw конфигі таңдалады.
Қолжетімділік
Карточка мен репозиторийдегі файл атаулары ашық. Файлдарды алу үшін «Request access» арқылы өтінім жіберіледі; өтінімді TilQazyna командасы қарайды.
Байланысты репозиторийлер
Алдыңғы жинақ: Til-Zharar. Өңделген материал Til-Corpus-Additions-v2 корпус құрастыру жинағына беріледі.
Русский
Til-Zharar-v2 — корпус казахскоязычных эссе, сочинений, учебных планов, рефератов и стихотворений с zharar.com объёмом 1.06 ГБ. Наряду с текстом страниц он хранит полный текст, извлечённый из прикреплённых документов.
Что внутри
| Конфиг | Содержимое |
|---|---|
processed |
Оценённые учебные тексты с делением по уровням |
raw |
Тексты страниц и документов до оценки качества |
Конвейер скачивает прикреплённые файлы docx, pptx и pdf, затем извлекает текст из абзацев и таблиц. В поле text попадает более полный вариант из файла или со страницы. Признак is_scan отмечает документы с содержимым в виде изображений; OCR для этих изображений не проводился.
Как загрузить
from datasets import load_dataset
ds = load_dataset("TilQazyna/Til-Zharar-v2", "processed", split="train", streaming=True)
print(next(iter(ds)))
Для материала до оценки качества выбирается конфиг raw.
Доступ
Карточка и имена файлов доступны для просмотра. Загрузка открывается после заявки через «Request access», которую рассматривает команда TilQazyna.
Связанные репозитории
Предыдущая коллекция хранится в Til-Zharar. Обработанный материал поступает в сборку Til-Corpus-Additions-v2.
English
Til-Zharar-v2 is a 1.06 GB corpus of Kazakh essays, compositions, study plans, term papers, and poems from zharar.com. It retains page text alongside fuller text extracted from attached documents.
Contents
| Config | Contents |
|---|---|
processed |
Judged study material organized into quality tiers |
raw |
Page and document text before quality judging |
The pipeline downloads attached docx, pptx, and pdf files and extracts text from paragraphs and tables. The text field selects the richer version from the attachment or page. The is_scan flag marks documents whose contents are stored as images; those images have not undergone OCR.
Loading the data
from datasets import load_dataset
ds = load_dataset("TilQazyna/Til-Zharar-v2", "processed", split="train", streaming=True)
print(next(iter(ds)))
Select the raw config for material captured before quality judging.
Access
The card and repository filenames are publicly visible. Downloads become available after the TilQazyna team approves an application submitted through “Request access.”
Related repositories
The preceding collection is Til-Zharar. Processed material feeds the Til-Corpus-Additions-v2 corpus build.
Лицензия · License: other · TilQazyna
- Downloads last month
- 5