Introducing JevClient.jl: github.com/AtelierArith/J… local 環境で動作する Jev 互換の jeff github.com/firelex/jeff を Julia に移植させました. 実装は codex Sol 6.1 が担当

Qwen3.5とGemma 4をゼロショット分類用にファインチューンできる「firelex/jeff」ってリポジトリを見つけた。 ちょっと中身… github.com/firelex/jeff

生成・パース不要のゼロショット分類へ。Jeffは0.8B〜2Bモデルを微調整し単一forward passで選択肢の確率を返す。22ms/判定、5ベンチ総合83.1でJev(83.0)並み、学習もGPU1枚 / GitHub - firelex/jeff: Fine-tunes of Qwen3.5 and Gemma 4 for zero-shot classification github.com/firelex/jeff

📑 GitHub - firelex/jeff: Fine-tunes of Qwen3.5 and Gemma 4 for zero-shot classification 🅱 はてなブックマーク テクノロジー新着 より github.com/firelex/jeff

元記事はこちら（Hacker News） github.com/firelex/jeff

jev と同じ形式で動く判断モデルを、個人が自宅のGPU1枚で作ってしまった「Jeff」。0.8Bでも侮れない...。 ・訓練 — GPU1枚で約2時間 ・速さ — 1回の判断が約22〜28ms ・成績 — 総合79.1（Jev は83.0） 学習データは、すべてオープンモデルで作った合成データとのこと。 github.com/firelex/jeff

【AIの判断が28msで返る】 ・生成文なしで選択肢を分類 ・Apple M4 Maxで約28ms ・微調整で精度31.7→95.8% 小型モデルでローカル判断が現実的に。 #開発者ツール github.com/firelex/jeff

Jeff が Jev 互換の 0.8B decision models を公開。22ms での超高速判定、Jev 級の精度。RTX 6000 or Mac M4 Max でローカル実行。クローズドモデルデータ不使用。 github.com/firelex/jeff

0.8Bの小型判定モデルを自宅GPUで訓練してJevと同じ形式で呼べるJeff。状況と選択肢を書くと1回の推論で較正済み確率が約30msで返る。エージェントの分岐判断を大型LLMから切り離す構成はすぐ真似できる。 github.com/firelex/jeff

Jeff ― Jev互換の8億パラメータ決定モデル。自宅で学習し、約30ミリ秒。 github.com/firelex/jeff 要約:Jeffは、Qwen3.5やGemma 4を微調整した小型・高速な分類モデル。文章生成なしで選択肢ごとの確率を返し、ローカル環境で約20〜30msの高速な意思決定が可能。