ポスト

こちらがOpenAIが以前出した論文です。これによりプロンプトインジェクションや脱獄に強くなることが期待されます: x.com/ctgptlb/status…

メニューを開く
ChatGPT研究所@ctgptlb

【OpenAIがプロンプトインジェクション対策の論文を発表】 OpenAIは、LLMが悪意のあるプロンプトによって操作される問題に対処するため、「指示階層」を導入し、モデルを階層的に管理する新しいアプローチを提案。この技術により、安全性が大幅に向上。いずれGPTs等にも組み込まれるかもしれません。 pic.twitter.com/7BB4OB9pTX

ChatGPT研究所@ctgptlb

人気ポスト

もっと見る
Yahoo!リアルタイム検索アプリ