Add more files

etlex-utf8.csv

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:1fc84e257a5d44db9b821731f41cc28da8d41054bf96445db7cdf10622cd08ac
+size 9599159

etlex_convert_to_qwen2_finetune.py

@@ -0,0 +1,128 @@
+import csv
+import random
+import json
+
+def create_training_data():
+    training_data = []
+    
+    # Read CSV file
+    with open('etlex-utf8.csv', 'r', encoding='utf-8') as f:
+        reader = csv.reader(f)
+        word_data = list(reader)
+    
+    for row in word_data:
+        if len(row) < 7:  # Skip incomplete rows
+            continue
+            
+        english_word = row[1]
+        thai_word = row[3]
+        category = row[4]
+        thai_syn = row[5]
+        eng_syn = row[6]
+        eng_ant = row[7]
+        
+        if not english_word:  # Skip entries without English word
+            continue
+            
+        # Create different types of prompts
+        prompt_types = [
+            f"What is the Thai translation of '{english_word}'?",
+            f"How do you say '{english_word}' in Thai?", 
+            f"Can you translate '{english_word}' to Thai?",
+            f"What does '{english_word}' mean in Thai?",
+            f"Give me the Thai equivalent of '{english_word}'",
+            f"Please translate '{english_word}' into Thai",
+            f"What's the Thai word for '{english_word}'?",
+            f"I need the Thai translation for '{english_word}'",
+            f"How would you translate '{english_word}' to Thai?",
+            f"Could you tell me what '{english_word}' is in Thai?",
+            f"What is '{english_word}' in Thai language?",
+            f"Translate '{english_word}' from English to Thai",
+            f"Can you explain the meaning of '{english_word}' in Thai?",
+            f"I want to know how to say '{english_word}' in Thai",
+            f"Please provide the Thai translation and usage of '{english_word}'",
+            f"What's the Thai meaning of '{english_word}'?",
+            f"How is '{english_word}' expressed in Thai?",
+            f"Give me the Thai definition of '{english_word}'",
+            f"I'd like to know the Thai equivalent of '{english_word}'",
+            f"What's the Thai word and meaning for '{english_word}'?",
+            f"คำว่า '{english_word}' แปลว่าอะไร",
+            f"'{english_word}' แปลเป็นภาษาไทยว่าอย่างไร",
+            f"ช่วยแปลคำว่า '{english_word}' เป็นภาษาไทยหน่อย",
+            f"'{english_word}' ภาษาไทยคือคำว่าอะไร",
+            f"อยากทราบความหมายภาษาไทยของคำว่า '{english_word}'",
+            f"ขอคำแปลภาษาไทยของ '{english_word}'",
+            f"'{english_word}' มีความหมายในภาษาไทยว่าอย่างไร",
+            f"ช่วยบอกความหมายภาษาไทยของ '{english_word}' หน่อย",
+            f"'{english_word}' ในภาษาไทยแปลว่าอะไร",
+            f"ขอความหมายภาษาไทยของคำว่า '{english_word}'"
+        ]
+        
+        # Randomly select prompt type
+        prompt = random.choice(prompt_types)
+        
+        # Convert category abbreviation to full name
+        category_mapping = {
+            'N': 'Noun',
+            'V': 'Verb',
+            'VT': 'Transitive Verb',
+            'VI': 'Intransitive Verb', 
+            'ADJ': 'Adjective',
+            'ADV': 'Adverb',
+            'PREP': 'Preposition',
+            'CONJ': 'Conjunction',
+            'CLAS': 'Classifier',
+            'PRON': 'Pronoun',
+            'DET': 'Determiner',
+            'ABBR': 'Abbreviation'
+        }
+        
+        # Map the abbreviated category to full name, default to original if not found
+        category = category_mapping.get(category, category)
+        
+        # Create response based on available information
+        response = f"คำว่า '{english_word}' เป็นคำประเภท {category}"
+        
+        if thai_word:
+            response += f" แปลเป็นภาษาไทยว่า '{thai_word}'"
+            
+        if thai_syn:
+            response += f"\nคำที่มีความหมายเหมือนกันในภาษาไทย: {thai_syn}"
+            
+        if eng_ant:
+            response += f"\nคำที่มีความหมายตรงข้ามในภาษาอังกฤษ: {eng_ant}"
+            
+        if eng_syn:
+            response += f"\nคำที่มีความหมายเหมือนกันในภาษาอังกฤษ: {eng_syn}"
+
+        # Create data in both formats
+        # Format 1: Qwen2 conversation format
+        conversation = (
+            "<|im_start|>system\n"
+            "คุณคือผู้ช่วยตอบคำถามที่ฉลาดและซื่อสัตย์.<|im_end|>\n"
+            f"<|im_start|>user\n{prompt}<|im_end|>\n"
+            f"<|im_start|>assistant\n{response}<|im_end|>"
+        )
+        
+        # Format 2: JSONL format
+        json_data = {
+            "instruction": prompt,
+            "output": response
+        }
+        
+        training_data.append((conversation, json_data))
+        
+    return training_data
+
+# Generate training data
+training_examples = create_training_data()
+
+# Write to output files
+with open('lexitron2_etlex_finetune.qwen2.txt', 'w', encoding='utf-8') as f:
+    for example, _ in training_examples:
+        example = example.replace('\n', '\\n')
+        f.write(example + '\n')
+
+with open('lexitron2_etlex_finetune.jsonl', 'w', encoding='utf-8') as f:
+    for _, json_data in training_examples:
+        f.write(json.dumps(json_data, ensure_ascii=False) + '\n')

lexitron2_etlex_finetune.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:44d1533767a4a84720ad008e1f4cc6c84a44b6c0d7fe6df683c111004918b081
+size 33944551

lexitron2_etlex_finetune.qwen2.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:0822f3d39370a7641633ba31720e174a83bac6aa809f8e9806bba04e6c54d0c6
+size 49176006

lexitron2_telex_finetune.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b9783044ea940fb10e4985372e59f8b3647fab08f27928dfb17aa66c8cf70bd0
+size 31243813

lexitron2_telex_finetune.qwen2.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3415788521911fe59e56f6ad49e64c44010964b0a3e1da8914df4d62a8c19a76
+size 38678047

telex-utf8.csv

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:54e4ae3f5befc2fb0c18ea84f4b6152def64391818fea0dc90df829964b2f38a
+size 14559356

telex_convert_to_qwen2_finetune.py

@@ -0,0 +1,128 @@
+import csv
+import random
+import json
+
+def create_training_data():
+    training_data = []
+    
+    # Read CSV file
+    with open('telex-utf8.csv', 'r', encoding='utf-8') as f:
+        reader = csv.reader(f)
+        word_data = list(reader)
+    
+    for row in word_data:
+        if len(row) < 11:  # Skip incomplete rows
+            continue
+            
+        thai_word = row[1]
+        english_syn = row[3]
+        category = row[4]
+        thai_syn = row[5]
+        example = row[6]
+        antonym = row[7]
+        definition = row[8]
+        related_eng = row[9]
+        unit_label = row[10]
+        
+        if not thai_word:  # Skip entries without Thai word
+            continue
+            
+        # Create different types of prompts
+        prompt_types = [
+            f"คำว่า '{thai_word}' แปลว่าอะไร",
+            f"ช่วยอธิบายความหมายของคำว่า '{thai_word}'", 
+            f"'{thai_word}' มีความหมายว่าอย่างไร",
+            f"ขอตัวอย่างประโยคของคำว่า '{thai_word}'",
+            f"ยกตัวอย่างการใช้คำว่า '{thai_word}'",
+            f"ช่วยอธิบายคำว่า '{thai_word}' หน่อย",
+            f"'{thai_word}' หมายถึงอะไร",
+            f"อยากทราบความหมายของคำว่า '{thai_word}'",
+            f"คำว่า '{thai_word}' ใช้ในบริบทไหนได้บ้าง",
+            f"ขอความหมายของคำว่า '{thai_word}'",
+            f"'{thai_word}' คืออะไร",
+            f"ช่วยยกตัวอย่างการใช้คำว่า '{thai_word}' ในประโยค",
+            f"คำว่า '{thai_word}' สามารถใช้ในประโยคอย่างไรได้บ้าง",
+            f"อยากรู้ว่าคำว่า '{thai_word}' ใช้ในประโยคยังไง",
+            f"ขอทราบความหมายและตัวอย่างการใช้คำว่า '{thai_word}'",
+            f"ช่วยอธิบายความหมายและยกตัวอย่างการใช้คำว่า '{thai_word}'",
+            f"'{thai_word}' มีวิธีใช้อย่างไร",
+            f"คำว่า '{thai_word}' มีความหมายและใช้อย่างไร",
+            f"อยากทราบรายละเอียดเกี่ยวกับคำว่า '{thai_word}'",
+            f"ขอคำอธิบายและตัวอย่างการใช้คำว่า '{thai_word}'"
+        ]
+        
+        # Randomly select prompt type
+        prompt = random.choice(prompt_types)
+        # Convert category abbreviation to full name
+        category_mapping = {
+            'N': 'Noun (คำนาม)',
+            'V': 'Verb (คำกริยา)',
+            'VT': 'Transitive Verb (คำกริยาที่ต้องการกรรม)',
+            'VI': 'Intransitive Verb (คำกริยาไม่ต้องการกรรม)',
+            'ADJ': 'Adjective (คำคุณศัพท์)', 
+            'ADV': 'Adverb (คำวิเศษณ์)',
+            'PREP': 'Preposition (คำบุพบท)',
+            'CONJ': 'Conjunction (คำสันธาน)',
+            'CLAS': 'Classifier (คำลักษณนาม)',
+            'PRON': 'Pronoun (คำสรรพนาม)',
+            'DET': 'Determiner (คำกำหนด)',
+            'ABBR': 'Abbreviation (คำย่อ)'
+        }
+        
+        # Map the abbreviated category to full name, default to original if not found
+        category = category_mapping.get(category, category)
+        # Create response based on available information
+        response = f"คำว่า '{thai_word}' เป็นคำประเภท {category}"
+        
+        if english_syn:
+            response += f" แปลเป็นภาษาอังกฤษว่า {english_syn}"
+            
+        if definition:
+            response += f"\nความหมาย: {definition}"
+            
+        if thai_syn:
+            response += f"\nคำที่มีความหมายเหมือนกัน: {thai_syn}"
+            
+        if antonym:
+            response += f"\nคำที่มีความหมายตรงข้าม: {antonym}"
+            
+        if example:
+            response += f"\nตัวอย่างประโยค: {example}"
+            
+        if unit_label:
+            response += f"\nลักษณนาม: {unit_label}"
+            
+        if related_eng:
+            response += f"\nคำภาษาอังกฤษที่เกี่ยวข้อง: {related_eng}"
+
+        # Create data in both formats
+        # Format 1: Qwen2 conversation format
+        conversation = (
+            "<|im_start|>system\n"
+            "คุณคือผู้ช่วยตอบคำถามที่ฉลาดและซื่อสัตย์<|im_end|>\n"
+            f"<|im_start|>user\n{prompt}<|im_end|>\n"
+            f"<|im_start|>assistant\n{response}<|im_end|>"
+        )
+        
+        # Format 2: JSONL format
+        json_data = {
+            "instruction": prompt,
+            "output": response
+        }
+        
+        training_data.append((conversation, json_data))
+        
+    return training_data
+
+# Generate training data
+training_examples = create_training_data()
+
+# Write to output files
+with open('lexitron2_telex_finetune.qwen2.txt', 'w', encoding='utf-8') as f:
+    for example, _ in training_examples:
+        example = example.replace('\n', '\\n')
+        f.write(example + '\n')
+
+with open('lexitron2_telex_finetune.jsonl', 'w', encoding='utf-8') as f:
+    for _, json_data in training_examples:
+        f.write(json.dumps(json_data, ensure_ascii=False) + '\n')