ポスト
metaのllama3:70bをローカルで動かそうと思ったら、GPUメモリが64GBとか必要なのかな。 AppleSilliconのMacならUnified Memory Architectureだしメモリも大量に積めるので、それなりに動くのなら現実的な価格で買えそう。それでも高いけど。
メニューを開くmetaのllama3:70bをローカルで動かそうと思ったら、GPUメモリが64GBとか必要なのかな。 AppleSilliconのMacならUnified Memory Architectureだしメモリも大量に積めるので、それなりに動くのなら現実的な価格で買えそう。それでも高いけど。
メニューを開く