ポスト
RAGを使用したLLMアプリに対する汚染攻撃「検索ポイズニング」。RAGで使用する外部ドキュメントに微細な細工を加えることで、（攻撃者が意図した）誤った回答をLLMに生成させることができるとのこと。 #rag #llm arxiv.org/abs/2404.17196
メニューを開くRAGを使用したLLMアプリに対する汚染攻撃「検索ポイズニング」。RAGで使用する外部ドキュメントに微細な細工を加えることで、（攻撃者が意図した）誤った回答をLLMに生成させることができるとのこと。 #rag #llm arxiv.org/abs/2404.17196
メニューを開く
