ポスト

ローカルで翻訳できるようにしようとLLMいくつか試してるんだけど大きいモデルはメモリとGPUを馬鹿食いするので実行できないのね…… fugumt が最新のTransformersで動作しないのがなぁ。どこら辺に原因があるんだろ。

メニューを開く

伊津野 英克@hidekatsu_izuno

みんなのコメント

メニューを開く

Japanese StableLM Base Alpha 7B はここの記載で動いた……がものすごく遅い note.com/it_navi/n/n5eb…

伊津野 英克@hidekatsu_izuno

人気ポスト

もっと見る
Yahoo!リアルタイム検索アプリ