ポスト
#command_r_plus 、c4ai-command-r-plus-IQ2_XXS.gguf、2bit化の関係か、話はいいのだが、プログラムが結構無茶苦茶なのを返す(笑) 仕方ないので、Meta-Llama-3-70B-Instruct-IQ3_M.gguf へ変更。こっちは1.5 tokens / 秒程度の実用ギリギリ…。 #LLM #Llama3 #RTX3090
メニューを開く#command_r_plus 、c4ai-command-r-plus-IQ2_XXS.ggufなら2 tokens/秒出た。これならギリギリ耐えられる！(笑) < メモリは32GB python gradio_llm.py -m ./mmnga/c4ai-command-r-plus-gguf/c4ai-command-r-plus-IQ2_XXS.gguf -ngl 50 -c 4096 --chat --listen #gradio_llm #LLM #RTX3090 #GPUBOX
人気ポスト
AKB48廃バス
木曽の空を撮ったら奇跡のタイミングでツバメが収まりました
高橋一生＆飯豊まりえが結婚「一つの作品に参加させて頂いた事がきっかけ」 『岸辺露伴』で共演、交際約1年 | ORICON NEWS oricon.co.jp/news/2327351/f…
良く見たら豚レバだった。。。 この店は早く出よう。せめて、牛レバーにしてくれ
「サザエさん」ガチ勢によって発見されたレア演出
そんなやつおるわけ
50歳から努力した者が伸びる、と教えてくれた児玉清さん。 人生の先が見えてくると努力しなくなる。だから努力を怠らずにいれば伸びる。 ついにその年になりました。言葉の意味を噛み締めています。 ５月１６日は児玉さんの命日。
宣伝させてください……間借りで週1でやっているカフェにお客さんが全然来ません……紅茶のフリーフローと食パンの食べ放題で1000円です……ビーフシチューのセットもあります……ケーキも出してます……このままでは廃業もやむを得ません……大阪の住吉大社の近くです……どうか来てください……
親が留守中に子どもが作ったみたいなパン買った。
トレンド9:23更新
- 1
ニュース
自転車違反に反則金
- 酒気帯び
- 自転車違反
- 交通違反
- 在宅ワークで
- 青切符
- ながら運転
- 月30万
- 2
エンタメ
しょせん他人事ですから
- テレ東ドラマ
- 中島健人
- ドラマ出演
- グループ卒業
- リーガル
- 中島健人さん
- 清水陽平
- Sexy Zone
- 弁護士の
- BSテレ東
- テレ東
- 3
エンタメ
ダウ90000
- いたジャン
- Hey! Say! JUMP
- 関東ローカル
- 有岡大貴
- 4
アニメ・ゲーム
GTA6
- 正式発表
- 5
NHKネット配信「必須業務
- NHKネット配信
- 支払い義務
- 必須業務
- NHK
- スマホ
- 6
グルメ
お茶漬けの日
- 高血圧の日
- ホモフォビア
- 多様な性
- お茶漬け
- 消費拡大
- お茶漬け海苔
- 練り込まれ
- 減塩
- 7
エンタメ
ショーゴ
- ショーゴ結婚
- 東京ホテイソン
- ホテイソン
- たける
- 結婚おめでとう
- ペアーズ
- もらい泣き
- サプライズ
- 8
エンタメ
その手があったか!
- その手があったか
- はるさん
- 直言パパ
- 9
アニメ・ゲーム
キラキラ金曜日
- キンキンキラキラ
- 10
岩本照誕生祭
