ポスト
とりあえず、Oumuamua-7b-instruct-v2は、mlx環境で動きましたが、Ollamaのライブラリーに以下の4つをpushしました。 #ollama Q4_0 Q5_K_M Q8_0 f16 変換してpushしただけなので、自分もほとんどまだ触っていませんので、ぜひぜひご利用ください。 ollama.com/lucas2024/oumu…
メニューを開くとりあえず、Oumuamua-7b-instruct-v2は、mlx環境で動きましたが、Ollamaのライブラリーに以下の4つをpushしました。 #ollama Q4_0 Q5_K_M Q8_0 f16 変換してpushしただけなので、自分もほとんどまだ触っていませんので、ぜひぜひご利用ください。 ollama.com/lucas2024/oumu…
メニューを開く