ポスト

forgeってそんなに早いんですね〜 fp8とかもONにするとVRAM使用量をかなり下げられるのでforgeは特に低VRAMの方にはおすすめなんです。 ただSETIさん含め我々だとほぼ恩恵が無いので残念ですが…😅

メニューを開く

かたらぎ@redraw_0

みんなのコメント

メニューを開く

Forgeは基本的にオプションは不要な設計だと聞きましたが、私の環境だと --cuda-malloc --cuda-stream というオプションをつけるとCUDAが相当効率化されるみたいです ただリスクもあるという話ですが… gihan-page.ltt.jp/blog/archives/…

人気ポスト

もっと見る
Yahoo!リアルタイム検索アプリ