ポスト

Prompt Engineeringのようにテキストをいじるのではなく、文の間に Attention には利用されない "プレースホルダートークン" を差し込む事によって位置関係をずらし出力の最適化することを狙う、Position Engineeringの提案。 Llama-13b-chatなどで実験し、精度向上できることが確認されたそう。… pic.twitter.com/puLxwI3Onl

メニューを開く

Tatsuya Shirakawa@s_tat1204

人気ポスト

もっと見る
Yahoo!リアルタイム検索アプリ