令和7年度 第20問 解説

問題文

AIの普及に伴い、AIシステムに対してさまざまな攻撃がなされるようになっ た。これらの攻撃に関する以下の文章の空欄Ａ～Ｃに入る用語の組み合わせとし て、最も適切なものを下記の解答群から選べ。 データポイズニング攻撃は、強いバイアス（偏り）を持ったデータを意図的に学習 させることで、機械学習モデル自体を汚染させ、推論結果を誤らせる攻撃である。 Ａ は、機械学習済みモデルへの入力データに、攻撃者の意図した結果を引 き起こすように計算されたノイズや微小な変化を含める攻撃である。そのため、 データポイズニング攻撃と同様に、機械学習モデルの推論結果を操作することがで きる。 Ｂ は、機械学習済みモデルへの入力データと推論結果である出力 データを分析することによって、当初の学習データを推測する攻撃である。 生成AIに対しては、特殊な指示を与えて、意図しない挙動を引き起こす Ｃ という攻撃がある。この攻撃により、生成AIは不適切な回答をしたり、 意図しない情報を開示してしまうことがある。