こんにちは、石橋です。
今回も私が最近大いに関心を持っているAIについての話題に触れてみたいと思います。

近年では生成AIの進化によって、それが詐欺などに悪用される例が急増しています。
それを可能にしているのが、ディープフェイクと呼ばれるフェイクAI動画です。
有名な富豪や投資家が話しているような動画を作って投資詐欺に誘導したり、政治家がトンデモ発言をしているような動画を作って支持者を減らそうとしたり。思惑はさまざまですが、写真や動画があるのだから本当だろうとは言えない時代になってしまいました。

そんなご時世に活躍しているのが、こうしたAIによるフェイク写真やフェイク動画を検出してくれる検出AIです。すでにAIフェイクを人間が見破るよりもAIに任せたほうがいいとなってしまい、人間不在の空中戦が始まっています。
よく目にするのが、X（旧ツイッター）が提供しているGrokでしょうか。Xに投稿された内容に対して「これはフェイクですよ」とファクトチェックしてくれる機能があります。私も実際にこうした指摘を何度も経験しており、その指摘は正しいので大したもんだと思います。これにより、投資詐欺など悪意のあるフェイク情報から身を守れる可能性は高くなりました。Grokのこうした機能も、検出AIとしての役割を果たしていると言えます。

さて、そんな検出AIが活躍しているなか、悪意を持った輩が次に考えるのは、検出AIに検出されないフェイク情報の生成です。
もうすでに公開情報となっているので1つ有名な事例を紹介すると、動画に環境音を入れるというテクニック（？）があります。ディープフェイク動画を生成する際、わざとクルマの走行音や街の雑音などを少し入れることでリアル感を出し、AIによる検出をすり抜けることができていました。この脆弱性はすでに解消されているのでここから悪用するのは時代遅れといえますが、このノイズ追加テクニックが考案されたのはほんの半年程度前のことです。
ディープフェイク動画を検出するAIが登場し、それをすり抜けるためにノイズを追加するテクニックが考案され、すでに陳腐化。この一連の動きが、たった半年程度で行われたのです。もはや人類とAIとでは、見ている時間軸がまるで異なることを象徴するような出来事です。

そもそも検出AIは、「不自然さ」を突いて本物と偽物を見極めるロジックになっていることが多く、辻褄の合わない内容や映像にわずかな不自然さがあったりすると、それをニセモノと判定します。すでに人間の目では判別ができないレベルで検出をしているわけですが、そんな検出AIの特性を見抜いて、敢えて人間には分からないレベルの「不自然さ」を動画や画像に仕込み、検出AIをテンパらせる技術も登場しています。
ディープフェイク動画はできるだけニセモノと見破られないように作るはずだ、という前提を崩すことでAIを騙すわけですね。本当に、もうここまできたら人類の考えが及ばない空中戦です。

何か犯罪の手口があれば、それをふさごうとする対策が生まれます。そして犯罪者側は、その対策をすり抜ける新たな技術を考案します。これをいたちごっとといいますが、AIの世界でもいたちごっこが起きているわけです。しかも、人間をはるかに上回るスピードで。

私が思うに、こんな時代が来ることは十分予見できました。生成AIをはじめとする各種AIが続々と登場したことで、AI同士がせめぎ合う時代が来るな・・・と思っていました。
もう少し先になってからだと思っていましたが、今やAIがAIを開発する時代になっているため、そのスピードは私たちの想像をはるかに上回っています。
すでに事務系の採用人数が少なくなっているのはAIの影響だとも言われていますが、今後はフィジカルAIといって力仕事や機械の操作、運転などをAI搭載のロボットが担うようになっていくでしょう。
こうしたAIの台頭を、「何だか怖い」と言ってしまうのは、食わず嫌いのようなものです。今後AIが突然なくなることはもうありません。むしろ、もっと進化して「AIに出来ること」は増え続けていきます。
しかし、そんな時代にあっても人間にしかできないことはたくさんあります。例えば、起業。起業した人がAIを事業に活用することはあっても、AIが自分で起業をしようとはしません。
このように人間にしかできないことを、人間はより特化していけばいいのです。その人間にしかできないことを加速させるためにAIを活用するのが、これからの正しい向き合い方だと思います。
何だかよく分からないという理由だけで遠ざけたり脅威に感じるのは、重大な機会損失につながります。若い人だけのものと決めることなく、すべての世代の人がAIとどう付き合っていくのかを考える時が来ていると思うのです。