ローカルでDifyとOllamaで試したが、プログラミングをしないと実現できないことをノーコードで出来る感じやね PoC作るならもうこれでいいって感じだ

返信先:@NVIDIAGeForceJPえー…。シンプルにOllama回したいです。（ゲームなのかどうか）

Ollama使ってDifyもいけるらしいので、OpenAIと比較しつつ試していくか

huggingface, ollama, open-webui あたりを触ってるんだけど、便利すぎでないか 特に ollama

ずんだもんの声使えるTTSソフト(名前忘れた)はPythonのラッパーあるから、macに来た通知を全部読み上げるとかできるんだよな ollamaで中間地点作れば要約もできるし

M1のmac買ったんだけど、普通にqwen2がollamaでサクサク動くし、4年前のPCでもこんなに凄いのか 秋とかにM4出るまでの繋ぎとして買ったけど期待以上だわ 中古なのに新品以上に綺麗だし運が良い

ollama初期ロードモデルを読み込むので時間かかります ローカルLLMは下記方法もあり speakerdeck.com/cloudevcode/el…

え、え。 すごい Zed と Ollama をつなげられるの?

LLMのライフゲーム、ローカルで動かせるようにしたものもGitHubで公開します。 Gemini 1.5 FlashかLlama 3（Ollama）で動かせます。Llama 3はGPUないときついと思います github.com/karaage0703/la…

実は、多言語対応してあるので、一応英語、フランス語、ドイツ語、スペイン語で使えたりします。正しい文章になってるかどうか知らんけど。 #GeminiPad #Gemini #Ollama #RAG pic.twitter.com/F1VOwYYRl1

ジャンクChromebookから遅いの覚悟してOllama インストールは簡単なんだけど、計算は遅すぎる pic.twitter.com/9pCmn95MwW

便利でありがたい話〜 Ollama uses model metadata, specifically tokenizer.chat_template, to automatically create a template appropriate for the model you're importing. github.com/ollama/ollama/…

ちな、ollamaの埋め込みモデル使う時全文検索にして、推論モデルのtemperature変えるとそこそこ精度でました。 はやくrerankの軽量モデルでらんかなー

ollamaでの完全ローカルragなど、試行錯誤含めて非常に参考になりました。 WindowsでDifyを使いこなす！ zenn.dev/shohei6117/scr… #zenn

記事を投稿しました！ Open WebUI (Formerly Ollama WebUI) がすごい２（RAGもすごい） [AWS] on #Qiita qiita.com/moritalous/ite…

Ollama でローカル LLM 使ってコミットメッセージ生成するコマンドラインツールつくった github.com/koki-develop/o…

continueよりはなんかよりcursorのほうがAIファーストな気がするしこれやってこう Cursor EditorでOllamaを使う｜ryoppippi zenn.dev/ryoppippi/arti… #zenn

AnythingLLM知らなかった AnythingLLMとOllamaでwebから情報を取得してRAGを実行する qiita.com/orca13/items/d… #Qiita

Phi3ですが、こちらの方法でWSL上のollamaを使って評価しました。コンソールだけでなく、ちゃんとcurlで投げても答えるんだよな……。 qiita.com/ishidahra01/it…

Qwen2の0.5b。速いわ。 Android/Termux/ollamaでこの速度。 Q:東京の観光地を教えてください。 A:１．大阪市、2.北海道、3.江面、4.大阪市、5.滋味 ・・・江面(村)は埼玉かな？滋味はわかんにゃあ。 pic.twitter.com/Udol9bc6D0

ollamaの新しいモデルをダウンロードしてたら…ollamaのサイト落ちてたorz 仕方ないから、今日はGPT-4oのノーマルとAzure OpenAI をRAGありの状態で使うか〜。 微妙に精度落ちるんだよね〜

OSにOllama統合してくれたらより一層自宅サーバーぶん回すのに

ContinueとDeepCoderさん(Ollama経由) 強すぎて草 英語圏の(オフラインAIの) 浸透率とDX導入が半端なさすぎる。NASDAQどころかNYダウも下がらない可能性。 アメリカが利下げしなくても、EUが利下げして、DXに拍車がかかって世界全体のGDP爆上がりする可能性はある。 pic.twitter.com/Benl6cdPWf

ollamaのじぇんもじかわいい

フル Docker で Dify + Ollama + LLama 3 7B で RAG で論文の内容について質問するところまでまとめた。N 番煎じにも程がある… zenn.dev/derwind/articl…

スクリプトの作成はMBP上でOllama+codestralをVSCode+Continueから呼び出してサポートしてもらいながら行いました。 Ollamaへのリクエスト周りはさすがに検索しましたが、分からないところをcodestralやQwen2に聞きながら実装した感じです。これが新しい開発の形になっていくのか。すごい時代だ。

ローカルでOllama上のllavaを使って画像の主題とスタイルを読み取り、再生成するためのプロンプトを出力するPythonスクリプトが作れました。Pythonが書ける人からすれば何てことないスクリプトですが、初心者が数時間で書けるんだからAIによるサポートって強い……。

Obsidian + Companion plugin で、いま書いているノートの続きをGithub Copilot的にばんばんサジェストしてもらう。ollamaとqwen2-7bの組み合わせで、つまりローカルLLMで動かしている。 pic.twitter.com/m1Q2w3EuJh

Obsidian + Companion plugin で、いま書いているノートの続きをGithub Copilot的にバンバンサジェストしてもらう。ollamaとqwen2-7bの組み合わせで、つまりローカルLLMで動かしている。 pic.twitter.com/K8bmGKnGmL

ollamaとgradioでaiのべりすとライクなGUI作ってる テーブル更新が普通にできてない。 pic.twitter.com/xXFCASQjW0

最早やり尽くされた感はあるにせよ、Ubuntu 上で docker で Dify + Ollama + llma3 が動いた。良い良い。 pic.twitter.com/G66kSvLde7

[2024/06/10 18:00] トレンド4位 Open WebUI (Formerly Ollama WebUI) がすごい by moritalous qiita.com/moritalous/ite…

“Open WebUI： オフラインで動作する、拡張可能なセルフホスト型 WebUI 。ローカルLLM実行のOllamaやOpenAI互換APIなど、さまざまなLLMランナーをサポート。” かなりChatGPTっぽ見た目。Docker使用が推奨されている。 / htn.to/2LhtJiksBo

対話型ローカル生成AIのOllamaをAndroidのTermux上で直接ビルドして高速省メモリ起動してみた。コピペでOK。簡単でモデルPhi3などなら日本語も使える。FreeBSDでも使える様になったらしい togetter.com/li/2380966.

「新しくでた中国AlibabaのローカルLLMモデルQwen2が超絶賢く日本語OK。僅か7BでChatGPT3.5を超える性能？llama.cppやOllamaで動作。驚異的な中国勢に驚きを隠せない性能」togetter.com/li/2381192 が伸びてるみたい。内容が気になるね！ 作成者:@kapper1224

Open WebUI (Formerly Ollama WebUI) がすごい #AWS qiita.com/moritalous/ite…

50いいね！ | Open WebUI (Formerly Ollama WebUI) がすごい by @moritalous bit.ly/3KCKw1S

Diablo4のPCでラグくなる問題の原因がわかったもしれない。 自分固有の環境でOllamaがバックグラウンドで起動していると発生しているきがする。

新しくでた中国AlibabaのローカルLLMモデルQwen2が超絶賢く日本語OK。僅か7BでChatGPT3.5を超える性能？llama.cppやOllamaで動作。驚異的な中国勢に驚きを隠せない性能 togetter.com/li/2381192