AIによる画像認識において、認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによってAIアルゴリズムの特性を悪用し、判定結果を誤らせる攻撃はどれか。
微小な摂動でAIの判定を誤らせるのがAdversarial Examples
選択肢
- アAdaptively Chosen Message攻撃
- イAdversarial Examples攻撃
- ウDistributed Reflection Denial of Service攻撃
- エModel Inversion攻撃
正解と解説
正解：イ Adversarial Examples攻撃
Adversarial Examples攻撃は、機械学習モデルの決定境界が入力の微小な変化に敏感である性質を突き、人の目には元の画像と区別がつかない摂動を加えて分類結果を意図的に誤らせる手法である。標識の認識を誤らせるなど、現実の判断に直結する用途では深刻な脅威となる。対策としては摂動を含む例を学習させる敵対的学習や、入力の前処理・検知が研究されている。
選択肢ごとの解説
- ア適応的選択メッセージ攻撃は、署名や暗号方式の安全性を評価する際の攻撃者モデルであり、画像認識とは関係がない。
- イ正しい。人には気付けない微小な変化を加えてAIの判定を誤らせる攻撃である。
- ウ第三者のサーバに問合せを送り応答を標的へ集める増幅型のサービス妨害攻撃である。
- エモデルの出力から学習に使われたデータの内容を推定する攻撃であり、判定を誤らせるものではない。
同じ分野の他の問題
- AIに対するモデルインバージョン攻撃に該当するものはどれか。2025年度 秋期 午前II 問5
- AIによる画像認識において,認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによって,AIアルゴリ…2024年度 秋期 午前II 問2
- ドメインフロンティングを悪用した攻撃の例として,適切なものはどれか。2025年度 秋期 午前II 問8
- Pass the Hash攻撃はどれか。2023年度 春期 午前II 問2
- サイドチャネル攻撃の手法であるタイミング攻撃の対策として、最も適切なものはどれか。2025年度 春期 午前II 問14
最終更新：2026-08-25／解説・選択肢ごとの解説は資格暗記が独自に作成しています。問題文と選択肢の出典は上記のとおりです。