11時間前 -OllamaはLinuxにインストールする時に、独自のROCMを含んでるのかな?GPUを正しく検出できれば、単独でGPUで動けるのかな? 誰か教えてくれない?よろしく。
9時間前 -「8GBのGPUしか載っていない自宅PCで、重い有料APIに頼らず賢いAIを回したい」と、あなたも一度は考えたことがありますよね。 ところが現実は残酷で、普通の軽量モデル ...
22時間前 -llama.cppを土台にしたbitnet.cppというフレームワークは、掛け算を足し算とテーブル参照に置き換える専用のカーネルを使って、これをCPU上で実行する。 重みとは、LLMが ...
9時間前 -同じページに、WindowsでROCmを使う方法に関する情報が載っているリンクがありましたが、それを使うには互換性のあるGPUが必要です。リンクをクリックしてリストを見たの ...
22時間前 -Ollama / llama.cpp で動かす 7B〜32B クラスのローカル LLM。モデル別速度・必要 VRAM・推奨スペックを実測データベースで整理。
21時間前 -llama-cpp-pythonで、モデルを読み込む際にモデルのメタデータ内のテンプレートが安全でない形で処理され、細工した.ggufファイルでリモートからコードを実行される。 2026 ...
19時間前 -実体は llama.cpp のビルド済み llama-server を子プロセスで起動するので、コンパイラ不要で Windows でもそのまま動く)。 品質の担保: diffusers の更新や量子化 ...
20時間前 -Maid は完全に open-source で F-Droid 優先 Android ローカル LLM アプリです—Flutter で構築、llama.cpp を推論バックエンドとして使用、Google Play 依存性なしで配布。
9時間前 -OllamaはLinuxにインストールする時に、独自のROCMを含んでるのかな?GPUを正しく検出できれば、単独でGPUで動けるのかな? 誰か教えてくれない?よろしく。
23時間前 -Windowsでは認証なしで悪用できる。 対象パッケージ・影響範囲・修正版 ... 緊急Pythonコード実行11/17更新llama-cpp-python vulnerable to Remote Code ...