✨ LLMとお話ししましょっ! ✨
🧠 どのモデルさんとお話しする?:
🔢 量子化タイプを選んでね (むずかしいことは気にしなくてOK):
q4 (おすすめ!)
q4f16
auto
q8
q8f16
q4_0
q4_1
q5_0
q5_1
f32 (メモリいっぱい使うかも)
f16
🚀 モデルさんを呼んでくる!
ステータス: まだ来てないよ ⏳
お話ししたい内容を書いてね!
💬 お話しスタート!
✋ ちょっと待って!
🔄 最初からやり直す!
モデルさんからのお返事