[デジタル・ガバナンス] AI詐欺の嵐：リナ・カーンの警告から3年、規制緩和がもたらした「防御の空白」

歴史の転換点となった2023年の警鐘

2023年、米連邦取引委員会（FTC）のリナ・カーン委員長（当時）が発した「AIは詐欺をターボ化する」という言葉は、当時はまだ技術的な懸念の一つに過ぎないと考えられていた。しかし、トランプ政権2期目に入った2026年の今日、その警告は驚くべき精度で現実のものとなっている。かつてカーン氏が「AIに法の例外はない」と断じ、偽レビュー生成や「ロボット弁護士」を標的にした『オペレーション・AIコンプライ』を展開した当時は、強力な規制による規律が期待されていた。だが、現在のワシントンを覆う「米国第一主義」に基づく規制緩和の奔流は、この防衛線を根本から書き換えている。

スタンフォード大学人間中心AI研究所（HAI）の『AI Index Report 2024』によれば、AI関連のインシデントは2023年時点で前年比32.3%増加しており、2013年からの10年間で20倍以上に急増したことが記録されている。この「予測された嵐」は、技術覇権を優先する現在の政策環境下で、より巧妙かつ大規模な形で社会のOSへと入り込んでいる。規制が技術の進化を阻む「壁」と見なされる傾向が強まるなか、皮肉にもかつてカーン氏が懸念した「防御の空白」が拡大し続けているのである。

現実となった脅威とディープフェイクの日常化

2026年の現在、生成AIを用いた詐欺はもはや特殊な事件ではなく、市民生活を脅かす日常的なリスクへと変貌を遂げた。かつてFTCが警告した「大規模な操作と欺瞞の自動化」は、特にディープフェイク技術のコモディティ化によって完成の域に達している。

具体的事例として、都内の中堅企業に勤務する（仮名）山本宏氏のケースは、2026年型詐欺の巧妙さを象徴している。山本氏は、海外出張中の上司からリアルタイムのビデオ通話で緊急の送金指示を受けた。画面越しの上司の声、表情、そして独特の話し方は本人そのものだったが、実際には高度なリアルタイム・クローン音声と映像合成による偽物であった。攻撃側のAIは、ターゲットの過去のSNS動画やインタビューから学習し、人間の認知能力では判別不可能なレベルにまでその精度を高めている。

現在のトランプ政権下では、対中技術競争を勝ち抜くための「イノベーション優先」が最優先事項となり、かつての包括的な規制論は鳴りを潜めている。FTCが以前示した「詐欺を助長するシステムはFTC法に抵触する可能性がある」という厳格な監視姿勢は、市場の自律性に委ねるという名目のもと、実効性を問われている。企業側が自主的にAI防衛策を講じることが期待されているものの、攻撃側のAIが進化し続ける中で、法的な強制力を伴わない対策には限界が見え始めている。

自己責任のジレンマと企業の防衛境界線

規制のガードレールが事実上撤去された広野で、企業と個人は「自己責任」という名の終わりのないジレンマに直面している。2024年に実施された『オペレーション・AI・コンプライ』のような、官主導の積極的な介入は過去の遺物となりつつある。現在のデジタル市場は、いわばデジタル上の「自由放任主義」へと回帰しており、信頼の維持は各プレイヤーの自助努力に委ねられている。

都内のITスタートアップで最高技術責任者を務める（仮名）佐藤健太氏は、米国製AIマーケティングツールを導入した際、AIが自動生成した虚偽の顧客レビューが原因で、プラットフォームから規約違反の警告を受ける事態に直面した。佐藤氏は「かつての規制当局であればツール提供側の責任を問うたはずだが、現在は『利用者の確認不足』として片付けられてしまう」と、規制の空白地帯で企業が負うリスクの肥大化を指摘する。信頼こそが商取引の根幹であるという「安心」の文化が、国境を超えたデジタル詐欺の巧妙化によって、根底から揺さぶられているのである。

皮肉なことに、この空白を埋めようとしているのは、法規制ではなくAI自身による動的な防衛策である。金融機関は取引パターンの異常を検知するAIを導入し、プラットフォーム企業はディープフェイクを無効化するウォーターマーク技術の高度化を競っている。しかし、攻撃側と防御側双方がAIを武器とする「技術の軍拡競争」が加速する中で、最終的な責任の所在は依然として曖昧なままだ。防衛コストの増大はサービスの価格転嫁を招き、結果として消費者が安全を「購入」しなければならないという新たな格差も生んでいる。

効率と速度が何よりも優先されるこの2026年において、私たちが「信頼」という不確かな感情をAIという機械の審判に委ねることの対価は、一体どこで支払われるべきなのだろうか。利便性の極致にあるアルゴリズムが、私たちの「信頼」さえも計算可能な変数として扱い始めたとき、最後に残るのは「真実」の抜け殻だけではないのかという問いが、今改めて突きつけられている。