ポスト

こりゃすごい。なんじゃこの性能状態。 【Appleの新しいOpenELMモデルをMLX LMで】 512トークン、340Token/S M3 Pro Mac (64GB)で16ビットの270Mモデルで超高速ローカルLLMが実現。 これ、ローカルLLMでこの性能はPhi-3やLlama3の7Bなど見てきたがMac単体でこれはスゴすぎる。… pic.twitter.com/iNZ6uT4CJ7

メニューを開く

ホーダチ | AI✖️Cloud✖️Dev | 外資×ひとり法人@hokazuya

みんなのコメント

メニューを開く

たったの270Mでこれとは… 本当に今まで見過ごされていた領域が開拓されたって感じですね。LLMがHorizon OSの基本機能に組み込まれたりしそう

藤木佐鈴@kisakinrei15966

メニューを開く

これ、等倍動画なんすよwストリーミング早すぎて笑う

ホーダチ | AI✖️Cloud✖️Dev | 外資×ひとり法人@hokazuya

メニューを開く

ばかっぱゃくて草生える

えふいい@fee1plz

人気ポスト

もっと見る
Yahoo!リアルタイム検索アプリ