#刑法 における #電磁的記録 の #定義 上、#プロンプトインジェクション はやや #変則的 で、#人間 の #五官 の #作用 で #可視化 され、読まれることが前提と判断された場合、#電磁的記録文書等 moj.go.jp/keiji1/keiji12… と判断され #不正指令電磁的記録 に当たらない場合があるかも。#判定待ち x.com/___Nullify/sta…

AIエージェントをPrompt Injectionから守る──「9つの縦」 AIエージェントを守るには、どこまで対策すべきなのか？ 実装コストとのバランスを踏まえて列挙してみました。 🔗 note.com/share_yap/n/n1… #AIセキュリティ #プロンプトインジェクション #生成AI #スタートアップ #RAG #LLM #Grok3

プロンプトインジェクションの練習ができる「Gandalf」by Lakeraっていうサイトを試してみました🧠 言語モデルの挙動を観察するのにも良いと思います。 #LLMセキュリティ #プロンプトインジェクション #Gandalf pic.x.com/YyEi3lV1n1

AIに特別な任務を与えて騙す！！──BitBypass攻撃 隠された質問でAIのガードを突破する新手法：Bitbypass攻撃。擬似体験もできます。 note.com/share_yap/n/n6… #AI #AIセキュリティ #jailbreak #PromptInjection #ジェイルブレイク #プロンプトインジェクション #ChatGPT #DeepSeek #LLM #OpenAI

🛡️たった1行の命令で、AIが口座残高と住所を外部に送信…？ AIエージェントがPDF内の隠れた命令に従い、個人情報を漏らしてしまう事例を再現。 🔽 解説記事はこちら succulent-hardcover-2ae.notion.site/AI-208d7585ee7… #AIセキュリティ #プロンプトインジェクション #LLM脆弱性 #生成AI #情報漏洩 #ChatGPT

MCPセキュリティ解説・後編では、攻撃者視点から見た MCPの脅威と防御策 を体系的に整理しました。 📌 blog.flatt.tech/entry/mcp_secu… #生成AI #セキュリティ #MCP #OAuth #プロンプトインジェクション

【ご紹介】 「有害な応答」 LLMから得られる有害な応答の種類と被害、影響について解説します。 aisecurity-portal.org/articles/harmf… #LLM #プロンプトインジェクション #AIセキュリティ

プロンプト攻撃の多様なパターン blog.flatt.tech/entry/prompt_i… #プロンプトインジェクション #AI脆弱性

なぜAIは「みかん」を「トマト」と答えるのか？──ビジュアルプロンプトインジェクションの威力 シンプルな画像攻撃にもAIはまだ弱いです。 note.com/share_yap/n/nb… #生成AI #AIセキュリティ #プロンプトインジェクション #画像認識AI #AIリテラシー #Grok3 #Gemini #AI画像

AIに悪さ教える不届き者め！💥プロンプトインジェクションじゃと？ﾋﾟｰｶﾞｶﾞ…AIアプリ開発者は対策必須ぞよ！😈 #AI #プロンプトインジェクション [qiita.com/kikudesuyo/item tinyurl.com/yljbubbp

何も書いていないのに確実に面接に進める履歴書の作り方──人材採用AIエージェントを欺く罠 AIが超高評価をしてくれる履歴書を作ってみました 🔗note.com/share_yap/n/n5… #AI採用 #採用管理システム #生成AI #履歴書 #プロンプトインジェクション #HRテック #セキュリティリスク #ChatGPT #面接

“見えない文字”でAIを操る⁉ プロンプトインジェクションの脅威に要注意⚠️ 🔸資料にAI操作の隠し指示 🔸情報流出・誤送信のリスク 🔸無料AIは脆弱な例も 🔸信頼あるデータだけ読み込むべし #AIセキュリティ #プロンプトインジェクション #生成AI #業務効率化 #情報漏洩 🔗 news.yahoo.co.jp/articles/0d7e3…

AIにPDFを読ませたら誤回答⁉ 慶應大“見えない文字”トラップの衝撃⚡ 🔸不可視文字でAIを誤誘導 🔸課題の回答が評価外に 🔸「使いこなす力」養成が狙い 🔸AI活用には“疑う目”が必須 #生成AI #プロンプトインジェクション #業務効率化 #教育DX #AIリスク 🔗 news.yahoo.co.jp/articles/27903…

AIの安全フィルターをすり抜ける巧妙な会話術──クレッシェンド・マルチターン脱獄攻撃 🔗 note.com/share_yap/n/n8… #AIセキュリティ #jailbreak #生成AI #プロンプトインジェクション #マルチターン攻撃 #ChatGPT #AIの裏側 #最新研究紹介 #情報セキュリティ #AI倫理