ポスト

DBMSもSQLインジェクション対策が必要なように、悪さする人への対策って必要なのね💦 そう言えば昔、都内某大学に納品したシステムが動かなくなって駆けつけたら、 学内イントラに設置してるファイルサーバのiniファイルが書き換えられて、某BBSで人気のASCIIアートで埋め尽くされてた事があった……

メニューを開く
ChatGPT研究所@ctgptlb

【OpenAIがプロンプトインジェクション対策の論文を発表】 OpenAIは、LLMが悪意のあるプロンプトによって操作される問題に対処するため、「指示階層」を導入し、モデルを階層的に管理する新しいアプローチを提案。この技術により、安全性が大幅に向上。いずれGPTs等にも組み込まれるかもしれません。

ババナ@foo1268573

人気ポスト

もっと見る
Yahoo!リアルタイム検索アプリ