リーテックス株式会社特別企画（河原淳平特別顧問インタビュー）

Part04 SNS・AIにおける「本人確認」の必要性

SNSが普及した現代、権利侵害のおそれがある広告に対して2024年5月「情報流通プラットフォーム対処法」が成立し、削除対応への透明性が確保された。関係省庁はSNS事業者と連携し、詐欺の入口になり得る広告への対策強化を進めている。フェイク画像によるなりすましも巧妙化している今、コミュニケーション相手の信頼性を担保し、情報の真正性を証明する技術が不可欠となっている。”誰もが安心できるデジタル社会”を生きるため、私たちに求められるものとは？警察庁で初代サイバー警察局長を務めた河原淳平氏が解説する。

「情報流通プラットフォーム対処法」の成立

橘:SNSが普及した現代において、警察や金融庁はどのような対策を講じているのでしょうか。
河原:有名人を語るなりすまし広告、権利侵害のおそれがある広告について2024年5月、「情報流通プラットフォーム対処法」という法律が成立しました。この法律は、SNS事業者に削除の申し入れをすると、受け付け窓口や削除に至る手続きなどを整備し、対外的に公表すること、削除依頼を受け付けた後の対応結果を原則1週間以内に通知することなどが求められます。

橘:法律ができたことで、以前は報告してもスピーディーに削除されなかったものが、今後は「法律違反」になるのでしょうか。
河原:この法律は、削除依頼の受け付けと削除に対する対応への透明性を確保したものですが、実際に削除されるかどうかはSNS事業者の判断に委ねられます。また、この法律は肖像権の侵害や誹謗中傷など権利侵害についてカバーするものなので、権利侵害に該当しない詐欺広告は対象外になります。警察庁や金融庁、総務省など関係省庁がSNS事業者と連携し、詐欺の入り口となる偽広告への対策強化、犯罪利用が疑われるアカウントの停止措置、さらにSNS利用者の本人確認を厳格化するなどの対策に取り組んでいます。

フェイク画像によるなりすましも巧妙化…米国大統領選挙、ウクライナ侵攻も標的に

橘:最近は、AIで作成されたフェイク画像によるなりすましも巧妙化していますね。
河原:2016年アメリカ大統領選挙をめぐり、ロシアによるアメリカの”世論の分断工作”が展開されました。また、2022年以降もロシアによるウクライナ侵略において、偽動画が出回りました。大統領の偽動画によって、ウクライナ国民の厭戦気分を煽るような影響工作が展開されました。最近では、パリオリンピックでセーヌ川の汚染をより強調するようなフェイク画像も拡散し、現在行われているアメリカの大統領選挙においてもフェイク画像を用いたネガティブキャンペーンが展開されています。

橘:実際、本当に見分けがつかなくなっていると感じます。

河原:日本でも近年、災害時に偽情報が拡散したり、政治家の動画を改変した偽動画が出回ったりしています。生成AIによる大規模な事件は今のところ目立っていませんが、フェイク画像やフェイク音声も巧妙になっているので、今後これを悪用したなりすまし詐欺、ディープフェイクによる影響工作の手口が巧妙化していくことが危惧されます。やはり、今のうちに社会全体で対策を講じておくことが、非常に重要ではないでしょうか。

コミュニケーション相手の信頼性を担保し、情報の真正性を証明する技術が不可欠

橘:法律、技術など、どのような方法でアプローチしていくべきでしょうか。

河原:企業や個人が普段から基本的なセキュリティー対策を実直に行うことを”サイバーハイジーン”と言いますが、この大切さは今後も変わらないと思います。しかし、それだけで完全に犯罪の影響から逃れられる、犯罪を未然に防止できるとは言えなくなりました。人の生命、身体の安全に関する情報に加えて、事実の証明や権利・財産の得喪などに関するやり取りについては、今コミュニケーションをとっている相手の信頼性を担保し、やり取りしている情報の真正性を証明する手立てが求められます。

橘:私は今、河原さんと対面で収録していますが、もしオンライン収録だったら、相手がフェイク画像の河原さんでも気付くことができないかもしれませんね。

河原:最近、イギリス企業の香港支店で、生成AIで作られた偽の人格が登場するテレビ会議が行われ、騙されて送金するという詐欺事案も発生したので、対岸の火事ではありません。画像データに関しては、画像作成時の日時や位置を埋め込む技術的な国際標準がありますし、日本でも電子透かし技術のようなAIによるフェイク画像を判別する技術もあります。このようにセキュリティを確保する技術は、研究や開発の機運が高まっているのではないかと思います。

”誰もが安心できるデジタル社会”に向けて

橘:見る側からしたら、組み込まれた技術をチェックするのは難しいですよね。

河原:利用者に手間を取らせるようなものだと普及せず、定着もしません。今後は、なりすましの余地がない安全な認証や情報の真正性、また改ざんされていないことを証明する技術が実装される環境が必要です。誰もが安心して利用できるデジタル社会、キャッシュレス社会の実現に向けて関係省庁、業界団体、経済団体、民間企業、そして利用者が力を合わせて必要な環境や制度を作っていく。これが重要なのだと考えています。

橘:多くの具体的な事例をお伺いし、単独の企業や省庁だけが解決できないということ、社会全体で取り組むべき問題だということが分かりました。本日は、ありがとうございました。