AIによる画像認識において,認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによって,AIアルゴリズムの特性を悪用し,誤認識させる攻撃はどれか。
Adversarial Examplesは微小な摂動でAIに誤認識させる攻撃
選択肢
- アAdaptively Chosen Message攻撃
- イAdversarial Examples攻撃
- ウDistributed Reflection Denial of Service攻撃
- エModel Inversion攻撃
正解と解説
正解：イ Adversarial Examples攻撃
Adversarial Examples攻撃は、機械学習モデルの決定境界の性質を突き、人間には判別できないほど微小な摂動を入力に加えることで誤分類を誘発する攻撃である。よってイが正しい。学習済みモデルから訓練データを推定するModel Inversionや、学習データを汚染するポイズニングとは狙いが異なる。
選択肢ごとの解説
- ア選択平文攻撃の一種で、暗号方式の安全性評価に使われるモデル。AIとは関係ない。
- イ正しい。微小な摂動を加えて機械学習モデルに誤認識させる攻撃。
- ウ反射を利用した分散型サービス妨害攻撃で、AIの誤認識とは無関係。
- エモデルの出力から訓練データや属性を復元する攻撃で、誤認識を狙うものではない。
同じ分野の他の問題
- AIに対するモデルインバージョン攻撃に該当するものはどれか。2025年度 秋期 午前II 問5
- AIによる画像認識において、認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによってAIアルゴリズ…2021年度 秋期 午前II 問1
- ドメインフロンティングを悪用した攻撃の例として,適切なものはどれか。2025年度 秋期 午前II 問8
- Pass the Hash攻撃はどれか。2023年度 春期 午前II 問2
- サイドチャネル攻撃の手法であるタイミング攻撃の対策として、最も適切なものはどれか。2025年度 春期 午前II 問14
最終更新：2026-08-25／解説・選択肢ごとの解説は資格暗記が独自に作成しています。問題文と選択肢の出典は上記のとおりです。