ポスト

GPT-4o mini APIは史上初めて命令階層(Instruction Hierarchy)を実装したAPIであることが判明。詳細↓ pic.twitter.com/uyqMS5FxWa

メニューを開く

ChatGPT研究所@ctgptlb

みんなのコメント

メニューを開く

こちらがOpenAIが以前出した論文です。これによりプロンプトインジェクションや脱獄に強くなることが期待されます: x.com/ctgptlb/status…

ChatGPT研究所@ctgptlb

【OpenAIがプロンプトインジェクション対策の論文を発表】 OpenAIは、LLMが悪意のあるプロンプトによって操作される問題に対処するため、「指示階層」を導入し、モデルを階層的に管理する新しいアプローチを提案。この技術により、安全性が大幅に向上。いずれGPTs等にも組み込まれるかもしれません。 pic.twitter.com/7BB4OB9pTX

ChatGPT研究所@ctgptlb

人気ポスト

もっと見る
Yahoo!リアルタイム検索アプリ