ポスト

meta-llama/Meta-Llama-3-70B-Instruct の4ビット量子化で試したら、それらしい応答ペアが生成された。 "<|begin_of_text|><|start_header_id|>system<|end_header_id|>\n\nYou are a helpful assistant and professional translator.<|eot_id|><|start_header_id|>user<|end_header_id|>"

メニューを開く

masaoutiyama@masaoutiyama

みんなのコメント

メニューを開く

user -> assistant -> user -> assistant という2組の応答を出力するのに、1分くらいかかるみたいだ。生成された応答は高品質みたいだ。

masaoutiyama@masaoutiyama

人気ポスト

もっと見る
Yahoo!リアルタイム検索アプリ