arxiv.org/abs/2402.02554 【AIセキュリティ】 画像認識トランスフォーマーの脆弱性　4 Feb 2024 DeSparsify: Adversarial Attack Against Token Sparsification Mechanisms in Vision Transformers 画像認識モデルVision Transformerの脆弱性を突く方法「DeSparsify」についての研究 【概要より】…

arxiv.org/abs/2402.02554 【AIセキュリティ】 画像認識トランスフォーマーの脆弱性 DeSparsify: Adversarial Attack Against Token Sparsification Mechanisms in Vision Transformers 画像認識モデルVision Transformerの脆弱性を突く方法「DeSparsify」についての研究 【概要より】 Vision…

1位解法 adversarial attackは流石に草

時代はadversarial attackか。。

Gemmaで奇跡の一手が打てないか模索してたけど、Adversarial Attack が重かったか…。生成モデルの方もクソ雑魚なのしかできなくて…俺は…弱い…。

LLM Prompt Recovery，まさかadversarial attackのコンペだったとは・・・みてる（　・＿・）| 1st place solution: adversarial attack kaggle.com/competitions/l…

一応sentence transformerはgumbel softmaxを使うとadversarial attackできるので、意味不明な文字列でもスコアが出ることは確認していたのですが、全体のスコアを上げるのってどうなってるんだ

そういえば何かのログインで画像認証使ったけどかなりadversarial attackされた画像で面白かったな

※敵対的攻撃っていうのはそういう名前の概念(Adversarial Attack)で私自身が敵対してるわけではないです

なんでサイバー攻撃という言い方に吹き上がるかなぁ adversarial attackっていう立派な攻撃なのに あとこの手のノイズ処理は貫通されるために存在しているという話をですね

メモ。深層学習のセキュリティ課題と論文まとめ qiita.com/burikama/items… 「攻撃名称による分類」が分かりやすい。 Model inversion attack 【機密性】 Model extraction attack 【機密性】 Adversarial examples/ Model evasion attack【完全性】 Model poisoning attack【完全性】