How to use from
SGLang
Install from pip and serve model
# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "Finisha-F-scratch/Mini-marius-language" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Mini-marius-language",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'
Use Docker images
docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "Finisha-F-scratch/Mini-marius-language" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Mini-marius-language",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'
Quick Links

🌸🤪 Mini-marius-language 🌸🤪

Marius

Mini-marius-language est un SLM de 25 millions de parametres, Entraîné uniquement pour parlé le langage primaire du chien sourd de Clemylia. pré-entraîné en seulement 2 minutes sur CPU avec tres peu de données, il est conçu pour être un modèle de language primaire.

💖 Mini-marius-language / limitations 🎉

Ce modèle ne peut pas parlé de language construit ni faire de phrases, Et ce n'est pas son but.

💗 CLEMYLIA ⭐

bonne année ! Mini-marius-language est mon premier modèle crée en 2026 🎉

exemples de génération 👣

  1. prompt : je suis

Texte générer : e b l sourd ai Waouf Grrr s n s e ç s v n n s m ... n eu s n n n n t i l n s s veu n b n e quoi b n n e Ta Grrr me

  1. prompt : je suis

Texte générer : l a u n s e disponible . ! f s as ... n s s s e s d Grrr . disponible .. n n pas b quoi n n n n n n oi s . n eu r i l

  1. prompt : waouf..

Texte générer : e Ta m i i v n s sourd ... l Grrr quoi n . ... sourd déteste n l e n suis b n aouf déteste b Marius eu d n n sourd s v n sourd ... .. a n i waouf s

  1. prompt : waouf... Text générer : l a m e s e n déteste sortir !. disponible s Marius on riu n disponible m n i n sortir e n i su n i s . suis f n i Marius i sortir a n .. n eu a

  2. prompt : Salut !

Text générer : d n n n n s t a n n n n n s u e n s s s s s s n n n s s n n n n n s n s n l n s pon déteste

  1. prompt : Grrr...

Text générer : a n ça Grrr suis déteste n . n m m je d e s ai s les s s suis r ! e !. déteste Marius s t s sourd s d n n ... n i n s n s s dis s s

Downloads last month
3
Safetensors
Model size
25.3M params
Tensor type
F32
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Collection including Finisha-F-scratch/Mini-marius-language