Update README.md
Browse files
README.md
CHANGED
|
@@ -19,3 +19,30 @@ configs:
|
|
| 19 |
- split: train
|
| 20 |
path: data/train-*
|
| 21 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 19 |
- split: train
|
| 20 |
path: data/train-*
|
| 21 |
---
|
| 22 |
+
|
| 23 |
+
Kakao에서 공개한 NLI Task를 위한 학습용 데이터셋입니다.
|
| 24 |
+
2개의 Sentence와 그 관계를 서술하는 총 3개의 컬럼으로 되어있습니다.
|
| 25 |
+
|
| 26 |
+
총 7,128쌍의 데이터가 존재합니다.
|
| 27 |
+
|
| 28 |
+
Reference: (https://github.com/kakaobrain/kor-nlu-datasets)
|
| 29 |
+
|
| 30 |
+
### 사용예시
|
| 31 |
+
```python
|
| 32 |
+
dataset_repo = "x2bee/Korean_STS_all"
|
| 33 |
+
dataset = load_dataset(dataset_repo)
|
| 34 |
+
dataset = dataset['train']
|
| 35 |
+
|
| 36 |
+
test_size = 0.1
|
| 37 |
+
test_split_seed = 42
|
| 38 |
+
|
| 39 |
+
split_dataset = dataset.train_test_split(test_size=test_size, seed=test_split_seed)
|
| 40 |
+
train_dataset = split_dataset["train"]
|
| 41 |
+
test_dataset = split_dataset["test"]
|
| 42 |
+
|
| 43 |
+
def encode(examples):
|
| 44 |
+
return tokenizer(examples['text'], padding="max_length", truncation=True, max_length=512)
|
| 45 |
+
|
| 46 |
+
tokenized_train_dataset = train_dataset.map(encode, batched=True, num_proc=os.cpu_count())
|
| 47 |
+
tokenized_test_dataset = test_dataset.map(encode, batched=True, num_proc=os.cpu_count())
|
| 48 |
+
```
|