CocoRoF commited on
Commit
a1d9231
·
verified ·
1 Parent(s): 1cb06ef

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +27 -0
README.md CHANGED
@@ -19,3 +19,30 @@ configs:
19
  - split: train
20
  path: data/train-*
21
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
19
  - split: train
20
  path: data/train-*
21
  ---
22
+
23
+ Kakao에서 공개한 NLI Task를 위한 학습용 데이터셋입니다.
24
+ 2개의 Sentence와 그 관계를 서술하는 총 3개의 컬럼으로 되어있습니다.
25
+
26
+ 총 7,128쌍의 데이터가 존재합니다.
27
+
28
+ Reference: (https://github.com/kakaobrain/kor-nlu-datasets)
29
+
30
+ ### 사용예시
31
+ ```python
32
+ dataset_repo = "x2bee/Korean_STS_all"
33
+ dataset = load_dataset(dataset_repo)
34
+ dataset = dataset['train']
35
+
36
+ test_size = 0.1
37
+ test_split_seed = 42
38
+
39
+ split_dataset = dataset.train_test_split(test_size=test_size, seed=test_split_seed)
40
+ train_dataset = split_dataset["train"]
41
+ test_dataset = split_dataset["test"]
42
+
43
+ def encode(examples):
44
+ return tokenizer(examples['text'], padding="max_length", truncation=True, max_length=512)
45
+
46
+ tokenized_train_dataset = train_dataset.map(encode, batched=True, num_proc=os.cpu_count())
47
+ tokenized_test_dataset = test_dataset.map(encode, batched=True, num_proc=os.cpu_count())
48
+ ```