ポスト

Sakanaが示しているのは「大規模モデルより小規模の群モデルのほうが終端のパフォーマンスが高い」という仮説で、大規模モデルにかけてたOpenAIもo1のinference scaling lawで規模から脱却した。これをgroqやetchedのような高速推論ハードが後押ししてAI2AIの推論パラダイムが進む可能性がある。

メニューを開く

みんなのコメント

メニューを開く

推論のスケーリング則が真だとすると一推論当たりの速度はクリティカルになる

人気ポスト

もっと見る
Yahoo!リアルタイム検索アプリ