AIに対するモデルインバージョン攻撃に該当するものはどれか。

選択肢

• アAIモデルに対して入力データを調整しながら出力結果の取得を繰り返し行って解析し,学習に用いた元のデータを推測する。
• イAIモデルに対して複数のデータを入力して得られた出力結果を観察することによって,当該AIモデルを模倣し,同等の性能をもつAIモデルを得る。
• ウ学習時のデータセットに悪意あるデータを混入し,誤った学習をさせる。
• エ何らかの方法でAIの実行ファイルを入手し,逆アセンブルや逆コンパイルによってAIのソースコードを得る。

正解と解説

正解：ア AIモデルに対して入力データを調整しながら出力結果の取得を繰り返し行って解析し,学習に用いた元のデータを推測する。

モデルインバージョン攻撃は、入力を少しずつ変えながら出力の確信度などを観察し、その反応から学習に使われた元データの特徴を復元しようとする攻撃である。顔画像で学習したモデルから特定人物の顔を再構成するような例が知られ、学習データに個人情報が含まれる場合に深刻な情報漏えいとなる。対策には、出力する情報量の制限や差分プライバシの適用がある。

選択肢ごとの解説

• ア正解。出力を観察しながら学習に用いられた元データを推測する攻撃である。
• イモデル抽出（モデル窃取）攻撃の説明であり、狙いはモデル自体の複製である。
• ウ学習データを汚染するポイズニング攻撃の説明である。
• エ実行ファイルのリバースエンジニアリングであり、モデルの入出力を使う攻撃ではない。

同じ分野の他の問題

• AIによる画像認識において,認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによって,AIアルゴリ…2024年度 秋期 午前II 問2
• AIによる画像認識において、認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによってAIアルゴリズ…2021年度 秋期 午前II 問1
• ドメインフロンティングを悪用した攻撃の例として,適切なものはどれか。2025年度 秋期 午前II 問8
• Pass the Hash攻撃はどれか。2023年度 春期 午前II 問2
• サイドチャネル攻撃の手法であるタイミング攻撃の対策として、最も適切なものはどれか。2025年度 春期 午前II 問14