（LiDAR関連）電気通信大学／光学フィルタを用いてディープフェイク検出器を欺く

新たな攻撃とその対策

ポイント

• モニターをカメラで撮影することで、AI生成されたDeepfake画像を、あたかも本物であるかのように装う再撮影攻撃が問題となっている。
• そのような脅威への対策として、撮影と同時にシーンの奥行きを計測することで、平らなモニターと実物を見分ける技術が研究されてきた。
• 奥行き情報を計測する赤外測距センサーに対して物理的に偽情報を提示することで、従来の対策法を破る新たな攻撃法を提案した。
• また、提案した攻撃法を防ぐための新しい対策法として、単一のセンサーのみで撮影と奥行き情報の計測を行う方式を提案した。

概要

礎哲氏（情報学専攻博士前期２年）、菅原健准教授（情報学専攻）の研究グループは、フロリダ大学と共同で、画像の来歴情報（Provenance）への新たな攻撃とその対策を提案しました。
社会問題となっているAI生成した偽画像（Deepfake）へ対策するために、その画像が確かにカメラで撮影されたという来歴情報を付与する技術が普及しつつあります。それに対し、モニターに映したDeepfake画像をカメラで撮影することで、偽の来歴情報を付ける再撮影攻撃が脅威として知られています。再撮影攻撃への対策法として、カメラに取り付けた赤外測距センサーを用いた奥行き情報を計測することで、平坦なモニターと実際のシーンを見分ける技術が研究されています。
本研究はまず、そのような従来の対策法を破る新たな攻撃法を提案しました。攻撃のアイディアは、カメラの前に設置した光学フィルタにより、可視光と赤外光の光路を分離することにあります。すると、カメラには平坦なモニターを提示しながら、赤外測距センサーには偽の奥行き情報を提示できるようになり、結果として従来の対策法を回避できてしまいます。
この新しい攻撃が可能になるのは、画像の撮影と奥行き情報の計測に、別の色の光（可視光と赤外光）を利用するためです。そこで、撮影と奥行き情報の計測を、どちらも可視光で行うことで、上記の攻撃を防ぐ新たな対策法を提案しました。