Remove unnecessary files

etlex-utf8.csv

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:1fc84e257a5d44db9b821731f41cc28da8d41054bf96445db7cdf10622cd08ac
-size 9599159

etlex_convert_to_qwen2_finetune.py

@@ -1,128 +0,0 @@
-import csv
-import random
-import json
-
-def create_training_data():
-    training_data = []
-    
-    # Read CSV file
-    with open('etlex-utf8.csv', 'r', encoding='utf-8') as f:
-        reader = csv.reader(f)
-        word_data = list(reader)
-    
-    for row in word_data:
-        if len(row) < 7:  # Skip incomplete rows
-            continue
-            
-        english_word = row[1]
-        thai_word = row[3]
-        category = row[4]
-        thai_syn = row[5]
-        eng_syn = row[6]
-        eng_ant = row[7]
-        
-        if not english_word:  # Skip entries without English word
-            continue
-            
-        # Create different types of prompts
-        prompt_types = [
-            f"What is the Thai translation of '{english_word}'?",
-            f"How do you say '{english_word}' in Thai?", 
-            f"Can you translate '{english_word}' to Thai?",
-            f"What does '{english_word}' mean in Thai?",
-            f"Give me the Thai equivalent of '{english_word}'",
-            f"Please translate '{english_word}' into Thai",
-            f"What's the Thai word for '{english_word}'?",
-            f"I need the Thai translation for '{english_word}'",
-            f"How would you translate '{english_word}' to Thai?",
-            f"Could you tell me what '{english_word}' is in Thai?",
-            f"What is '{english_word}' in Thai language?",
-            f"Translate '{english_word}' from English to Thai",
-            f"Can you explain the meaning of '{english_word}' in Thai?",
-            f"I want to know how to say '{english_word}' in Thai",
-            f"Please provide the Thai translation and usage of '{english_word}'",
-            f"What's the Thai meaning of '{english_word}'?",
-            f"How is '{english_word}' expressed in Thai?",
-            f"Give me the Thai definition of '{english_word}'",
-            f"I'd like to know the Thai equivalent of '{english_word}'",
-            f"What's the Thai word and meaning for '{english_word}'?",
-            f"คำว่า '{english_word}' แปลว่าอะไร",
-            f"'{english_word}' แปลเป็นภาษาไทยว่าอย่างไร",
-            f"ช่วยแปลคำว่า '{english_word}' เป็นภาษาไทยหน่อย",
-            f"'{english_word}' ภาษาไทยคือคำว่าอะไร",
-            f"อยากทราบความหมายภาษาไทยของคำว่า '{english_word}'",
-            f"ขอคำแปลภาษาไทยของ '{english_word}'",
-            f"'{english_word}' มีความหมายในภาษาไทยว่าอย่างไร",
-            f"ช่วยบอกความหมายภาษาไทยของ '{english_word}' หน่อย",
-            f"'{english_word}' ในภาษาไทยแปลว่าอะไร",
-            f"ขอความหมายภาษาไทยของคำว่า '{english_word}'"
-        ]
-        
-        # Randomly select prompt type
-        prompt = random.choice(prompt_types)
-        
-        # Convert category abbreviation to full name
-        category_mapping = {
-            'N': 'Noun',
-            'V': 'Verb',
-            'VT': 'Transitive Verb',
-            'VI': 'Intransitive Verb', 
-            'ADJ': 'Adjective',
-            'ADV': 'Adverb',
-            'PREP': 'Preposition',
-            'CONJ': 'Conjunction',
-            'CLAS': 'Classifier',
-            'PRON': 'Pronoun',
-            'DET': 'Determiner',
-            'ABBR': 'Abbreviation'
-        }
-        
-        # Map the abbreviated category to full name, default to original if not found
-        category = category_mapping.get(category, category)
-        
-        # Create response based on available information
-        response = f"คำว่า '{english_word}' เป็นคำประเภท {category}"
-        
-        if thai_word:
-            response += f" แปลเป็นภาษาไทยว่า '{thai_word}'"
-            
-        if thai_syn:
-            response += f"\nคำที่มีความหมายเหมือนกันในภาษาไทย: {thai_syn}"
-            
-        if eng_ant:
-            response += f"\nคำที่มีความหมายตรงข้ามในภาษาอังกฤษ: {eng_ant}"
-            
-        if eng_syn:
-            response += f"\nคำที่มีความหมายเหมือนกันในภาษาอังกฤษ: {eng_syn}"
-
-        # Create data in both formats
-        # Format 1: Qwen2 conversation format
-        conversation = (
-            "<|im_start|>system\n"
-            "คุณคือผู้ช่วยตอบคำถามที่ฉลาดและซื่อสัตย์.<|im_end|>\n"
-            f"<|im_start|>user\n{prompt}<|im_end|>\n"
-            f"<|im_start|>assistant\n{response}<|im_end|>"
-        )
-        
-        # Format 2: JSONL format
-        json_data = {
-            "instruction": prompt,
-            "output": response
-        }
-        
-        training_data.append((conversation, json_data))
-        
-    return training_data
-
-# Generate training data
-training_examples = create_training_data()
-
-# Write to output files
-with open('lexitron2_etlex_finetune.qwen2.txt', 'w', encoding='utf-8') as f:
-    for example, _ in training_examples:
-        example = example.replace('\n', '\\n')
-        f.write(example + '\n')
-
-with open('lexitron2_etlex_finetune.jsonl', 'w', encoding='utf-8') as f:
-    for _, json_data in training_examples:
-        f.write(json.dumps(json_data, ensure_ascii=False) + '\n')

lexitron2_etlex_finetune.qwen2.txt

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:b39446598adc66ab0fb90af377c8f1949f90531e235965d604df416178537ff6
-size 49092774

lexitron2_telex_finetune.qwen2.txt

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:3415788521911fe59e56f6ad49e64c44010964b0a3e1da8914df4d62a8c19a76
-size 38678047

telex-utf8.csv

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:54e4ae3f5befc2fb0c18ea84f4b6152def64391818fea0dc90df829964b2f38a
-size 14559356

telex_convert_to_qwen2_finetune.py

@@ -1,128 +0,0 @@
-import csv
-import random
-import json
-
-def create_training_data():
-    training_data = []
-    
-    # Read CSV file
-    with open('telex-utf8.csv', 'r', encoding='utf-8') as f:
-        reader = csv.reader(f)
-        word_data = list(reader)
-    
-    for row in word_data:
-        if len(row) < 11:  # Skip incomplete rows
-            continue
-            
-        thai_word = row[1]
-        english_syn = row[3]
-        category = row[4]
-        thai_syn = row[5]
-        example = row[6]
-        antonym = row[7]
-        definition = row[8]
-        related_eng = row[9]
-        unit_label = row[10]
-        
-        if not thai_word:  # Skip entries without Thai word
-            continue
-            
-        # Create different types of prompts
-        prompt_types = [
-            f"คำว่า '{thai_word}' แปลว่าอะไร",
-            f"ช่วยอธิบายความหมายของคำว่า '{thai_word}'", 
-            f"'{thai_word}' มีความหมายว่าอย่างไร",
-            f"ขอตัวอย่างประโยคของคำว่า '{thai_word}'",
-            f"ยกตัวอย่างการใช้คำว่า '{thai_word}'",
-            f"ช่วยอธิบายคำว่า '{thai_word}' หน่อย",
-            f"'{thai_word}' หมายถึงอะไร",
-            f"อยากทราบความหมายของคำว่า '{thai_word}'",
-            f"คำว่า '{thai_word}' ใช้ในบริบทไหนได้บ้าง",
-            f"ขอความหมายของคำว่า '{thai_word}'",
-            f"'{thai_word}' คืออะไร",
-            f"ช่วยยกตัวอย่างการใช้คำว่า '{thai_word}' ในประโยค",
-            f"คำว่า '{thai_word}' สามารถใช้ในประโยคอย่างไรได้บ้าง",
-            f"อยากรู้ว่าคำว่า '{thai_word}' ใช้ในประโยคยังไง",
-            f"ขอทราบความหมายและตัวอย่างการใช้คำว่า '{thai_word}'",
-            f"ช่วยอธิบายความหมายและยกตัวอย่างการใช้คำว่า '{thai_word}'",
-            f"'{thai_word}' มีวิธีใช้อย่างไร",
-            f"คำว่า '{thai_word}' มีความหมายและใช้อย่างไร",
-            f"อยากทราบรายละเอียดเกี่ยวกับคำว่า '{thai_word}'",
-            f"ขอคำอธิบายและตัวอย่างการใช้คำว่า '{thai_word}'"
-        ]
-        
-        # Randomly select prompt type
-        prompt = random.choice(prompt_types)
-        # Convert category abbreviation to full name
-        category_mapping = {
-            'N': 'Noun (คำนาม)',
-            'V': 'Verb (คำกริยา)',
-            'VT': 'Transitive Verb (คำกริยาที่ต้องการกรรม)',
-            'VI': 'Intransitive Verb (คำกริยาไม่ต้องการกรรม)',
-            'ADJ': 'Adjective (คำคุณศัพท์)', 
-            'ADV': 'Adverb (คำวิเศษณ์)',
-            'PREP': 'Preposition (คำบุพบท)',
-            'CONJ': 'Conjunction (คำสันธาน)',
-            'CLAS': 'Classifier (คำลักษณนาม)',
-            'PRON': 'Pronoun (คำสรรพนาม)',
-            'DET': 'Determiner (คำกำหนด)',
-            'ABBR': 'Abbreviation (คำย่อ)'
-        }
-        
-        # Map the abbreviated category to full name, default to original if not found
-        category = category_mapping.get(category, category)
-        # Create response based on available information
-        response = f"คำว่า '{thai_word}' เป็นคำประเภท {category}"
-        
-        if english_syn:
-            response += f" แปลเป็นภาษาอังกฤษว่า {english_syn}"
-            
-        if definition:
-            response += f"\nความหมาย: {definition}"
-            
-        if thai_syn:
-            response += f"\nคำที่มีความหมายเหมือนกัน: {thai_syn}"
-            
-        if antonym:
-            response += f"\nคำที่มีความหมายตรงข้าม: {antonym}"
-            
-        if example:
-            response += f"\nตัวอย่างประโยค: {example}"
-            
-        if unit_label:
-            response += f"\nลักษณนาม: {unit_label}"
-            
-        if related_eng:
-            response += f"\nคำภาษาอังกฤษที่เกี่ยวข้อง: {related_eng}"
-
-        # Create data in both formats
-        # Format 1: Qwen2 conversation format
-        conversation = (
-            "<|im_start|>system\n"
-            "คุณคือผู้ช่วยตอบคำถามที่ฉลาดและซื่อสัตย์<|im_end|>\n"
-            f"<|im_start|>user\n{prompt}<|im_end|>\n"
-            f"<|im_start|>assistant\n{response}<|im_end|>"
-        )
-        
-        # Format 2: JSONL format
-        json_data = {
-            "instruction": prompt,
-            "output": response
-        }
-        
-        training_data.append((conversation, json_data))
-        
-    return training_data
-
-# Generate training data
-training_examples = create_training_data()
-
-# Write to output files
-with open('lexitron2_telex_finetune.qwen2.txt', 'w', encoding='utf-8') as f:
-    for example, _ in training_examples:
-        example = example.replace('\n', '\\n')
-        f.write(example + '\n')
-
-with open('lexitron2_telex_finetune.jsonl', 'w', encoding='utf-8') as f:
-    for _, json_data in training_examples:
-        f.write(json.dumps(json_data, ensure_ascii=False) + '\n')