ポスト
7BのLLMは指示を聞かないからイライラするんだけど その筆頭が文字数制限できないことと 回答の後ろで勝手に次のターンを始めること これの対処法を見つけた トークン数で指定すると少しは聞いてくれるし 回答の終わりに何かを出力しろという指示は効く あとはストリームを打ち切ればいい
メニューを開く7BのLLMは指示を聞かないからイライラするんだけど その筆頭が文字数制限できないことと 回答の後ろで勝手に次のターンを始めること これの対処法を見つけた トークン数で指定すると少しは聞いてくれるし 回答の終わりに何かを出力しろという指示は効く あとはストリームを打ち切ればいい
メニューを開く