自動更新

並べ替え:新着順

メニューを開く

llama-cpp-python単なるCPU環境でも環境構築大変だな。--extra-index-urlつければpipでインストールできるが、実行時にllegal Instructionでる。 自分でビルドすれば行けたが面倒。llama-serverにするかな。

メニューを開く

llama-server、試験導入成功で付属GUIで立ち上げたのだが、流石はC言語ベース、桁違いに早いぞ! llama-cpp-pythonでなく最初からこれベースで作ってれば良かった、MTP対応、複数パイプライン処理。 api接続で外部からも呼べる。 #llamaserver pic.x.com/DIx6HnCkWH

nellygem@nellygem888

メニューを開く

オリジナルのembedding_serverllama-cpp-pythonからllama-cpp-server移行に合わせ、pythonからrustへ書き換えてる。 なんかわくわくするね。 次元数改変はネットワーク管理者に許可とれと明示しておこう。 #Rust #AI Rustでベクトルデータベースを自作して学んだこと | Tech.blog

nellygem@nellygem888

メニューを開く

融通利かねぇからバイバイ Llama-server お帰り Llama-cpp-python 結局Llama-serverではやりたい事が何一つ出来なかった ただただ時間を無駄にした こう言う時のためにコードはコメントアウトして作業するってもんだ 元に戻すのは簡単 x.com/ToMo1278/statu…

ToMo1278@ToMo1278

Good Bye Llama-cpp-python Hello Llama-server 最初からこうしてれば良かったなぁ~ まぁ、土台はさほど壊さずに行けるんで 徹夜するぞぉ~ なんて事はしません しっかり頭にイメージ出来てるんで 明日やります Hy-MT2-1.8Bの1.25bit使ってみたいんだもん

ToMo1278@ToMo1278

メニューを開く

Good Bye Llama-cpp-python Hello Llama-server 最初からこうしてれば良かったなぁ~ まぁ、土台はさほど壊さずに行けるんで 徹夜するぞぉ~ なんて事はしません しっかり頭にイメージ出来てるんで 明日やります Hy-MT2-1.8Bの1.25bit使ってみたいんだもん

ToMo1278@ToMo1278

トレンド20:53更新

  1. 1

    グルメ

    人魚の煮つけ

    • いっしょに食べよう
    • コラボカフェ
    • ちいかわコラボカフェ
    • ちいかわ
    • ちいかわレストラン
  2. 2

    可搬式オービス

    • オービス
    • 埼玉県警
    • 警官2人
    • 900万円
  3. 3

    アニメ・ゲーム

    死滅回游

    • 死滅回游 後編
    • 呪術廻戦
  4. 4

    ニュース

    運転見合わせ

    • のぞみ49号
    • 立ち入った
    • 触車
    • 東海道新幹線 運転見合わせ
    • 山陽新幹線
    • 警察に通報
    • 負傷者の救出
    • 先頭車両
    • JR東海
    • 立ち入り
    • 見合わせ
    • 49号
  5. 5

    ITビジネス

    空に免じて

    • 生きる意味
    • 初音ミク
    • 何卒よろしくお願いします
    • マジミラ
  6. 6

    ロージャ

    • ヴァレンチーナ
  7. 7

    スポーツ

    愛斗

    • 満塁ホームラン
    • レッツゴー習志野
  8. 8

    エンタメ

    ミニアルバム

    • FC限定
    • ペアトレカ
    • M!LK
    • Mini
    • アルバム発売
  9. 9

    私物オークション

  10. 10

    スポーツ

    守備妨害

    • ダルベック
    • まつごー
    • マツゴー
    • 松本剛
    • バッターボックス
    • 2アウト
    • ランナー
20位まで見る

人気ポスト

よく使う路線を登録すると遅延情報をお知らせ Yahoo!リアルタイム検索アプリ
Yahoo!リアルタイム検索アプリ