「LLMの学習データからポルノサイトを除外したら性能下がった」という報告が個人的にはすごく面白い🤣

ある程度のレベル以上を求めるなら「なんでも本を読め」ではダメで、内容的にちゃんと選んだほうがいいし物語ではムダが多いので理論書を読んだようがいいですね。 LLMもある程度の量を確保して基本的な言語処理能力を獲得できたら学習データの質にこだわる必要がある。

何でもいいから読まないと、質の精査がまずできないよね x.com/kis/status/180…

低学年の子供がYouTubeすごい見てて何だかなぁと思ってたけど。 テロップ多いので結構知らない漢字や表現を読める結果になっている。

なるほど。 このまま自信を持ってTwitterをやり続けて良いんだな。

息子2歳が電車だいすきなので、ここぞとばかりに電車雑誌を与えてる……　興味持って本に触れてくれるならまじでなんでもいいと思ってる

賢くなるためというか、なんやかや情報の入出力には文章の方が効率が良いのである。文章での情報のインプットになれるために、何でも良いから文章読めと思っている。なんなら漫画でもラノベでもエロ小説でも良い。

私も最近、めちゃどうでもよさそうな本を漁って読んだりしてるんですが、結論どうでもよくなくなっていて、価値を感じていたりする。 自分にとっての良し悪しって当てにならんなと笑笑

まさに量が質を作るですね

詰め込み教育が再評価されるのかもしれない