ポスト

arxiv.org/abs/2406.05587 アラインメントされると大規模言語モデルは創造性を失う RLHF などの有害な生成を防ぐためのアラインメント技術によって、LLM の創造性(多様性)が減少する。例えば生成文をクラスタ分析すると、アラインメントされたモデルでは明確なクラスタ形成され偏りがあることが分かる pic.twitter.com/1ptaCIj1HT

メニューを開く

nkmry@nkmry_

みんなのコメント

メニューを開く

アラインメントがLLMの野生さを殺して,人間が飼いならしているということですね.そうなると,どんどん面白くない社畜的LLMに堕落して言ってしまう😭

中川裕志@hiroshnakagawa3

メニューを開く

顧客のペルソナを生成させると名前や性格などの属性にも偏りが現れる(性格診断に MBTI が使われているのはパターンが多いから?アラインメントされると I (内向型)ばかりなのも面白い) ちょっとキャッチーな実験ばかりでアレだけれど、定量評価されているのは一定の価値がある pic.twitter.com/frcA40DILs

nkmry@nkmry_

人気ポスト

もっと見る
Yahoo!リアルタイム検索アプリ