koboldcppにminimaxH3のskill本文を memoryにぶち込んだら、何の注釈一本もなく、 H3用のお堅いpromptを出すようになった。

返信先:@x4j2ZoKchW72136まだ触れてなくてすいませんが、自分が使っているのがLM Studioではなくてkoboldcppなので、ちょっと弄るのに時間がかかるかもしれません。とはいえ、OpenAI互換のAPIはあるので、サーバーとモデルの選択を誤魔化せばいけるはず‥‥

モデル落としたのに起動方法でフリーズした？このスレはまさにその初心者相談。 RTX 5080持ちの初心者が、HuggingFaceから落としたモデルをKoboldcpp／llama.cpp／Unsloth Studioのどれで動かすべきか聞いている。すぐ使いたいけど長く使える方法がいいという話。 1️⃣

返信先:@_ryu15_ollamaは安定したllama.cppを使っているのと、modelを毎回読もうとしたりするので、いろいろと。 ollama 安定して動かしたい llama.cpp 最新の技術で動かしたい。ただしoptionの変更がはげしい。verによっては落ちる koboldcpp 最新＋option互換、ただしパッケージに難あり。 くらいかなぁ。

jevとか生成AIの流れに乗りたいけど、まずは重い腰を上げて環境作らねぇとなって。 ollamaが重たい気がするのでllamacppがいいぞと聞きますが、cui恐怖症なのでkoboldcpp入れねばってね。

現場でこう使える： ・まず koboldcpp 1.120 ＋ Cherry Studio v2.0.12 以降の組み合わせで環境を揃える ・文脈忘れが出たらキャッシュ設定を先に疑う ・ツールコール失敗は「モデル側」か「設定側」かを一つずつ切り分ける

構成の概要： koboldcpp 1.120 ＋ Cherry Studio v2.0.12〜v2.0.14 で DeepSeek V4 Flash 0731 を動作確認。 モデルは unsloth の UD-Q8_K_XL 量子化、284B A13B（MoE）構成で、コンテキスト長は292k。 ローカルでここまで動かせる環境が整ってきた、というのが率直な印象。

保存しておきたい備忘録。 koboldcpp + Cherry Studio でローカル284Bを292kコンテキストで動かすとき、文脈忘れ・毎ターン再処理・ツールコール失敗の三つが地味に詰まりポイントになる。 原因と対処法がまとまっていたので、要点と自分なら次こうする、を整理しておく。 🧵 #AI実装ノウハウ pic.x.com/xC2UtfuTcG

Qwen3.8-27Bの無検閲GGUF。Q5量子化でもMMLU 87.6%を維持し、ローカルで推論の質が損なわれないことを示す。 手元でKoboldCpp等に即載せ可能。ベンチ数値と実走りの乖離に注意しつつ、ローカル環境の選択肢が広がる事例。 huggingface.co/nerkyor/Qwen3.… #ローカルLLM #生成AI

koboldcppの付属UIむず… 一旦llamacppの方でモデル比較していくか

comfyuiとkoboldcppでしばらく遊べそう

koboldcpp使ってみよう

koboldcppがどうもｇｍｋｓっぽいですねぇ( ˘ω˘ )

現状、Windows版のkoboldCpp(oldPC)くらいしか、 GTX1080tiの性能を生かせそうもないので、 それを使うことになったが、ロールプレイ、となると、 エンジンをこれが担い、もう一個なんかを立ち上げる。 みたいなのを読んだが、すでにちんぷんかんぷんであり、 一律給付金毎月60万円JPYCおかわり！

Silly tavernとKoboldCppとGemma-4 26B-A4Bでオリキャラと会話して遊んでるんですけどめっちゃ面白いですよこれ ローカルで動かしてるのであらゆる制限がないですしVRChatter程度のスペックというかグラボがあればガンガン動かせますし応答の品質もいいです

(　˙꒳​˙ )windows環境だと仮定してシンプルに動かすだけならソフトとしては ollama, ML stadio, koboldcppあたりが選択肢になってくるでやんす (　˙꒳​˙ )くやしくはそれぞれの名前でぐぐってくだち x.com/Nun_0822/statu…