前回、生成AIを用いた取り組みとして、独自LLM、業界特化サービスを取り上げました。破壊的な技術により世の中が変革することは良い面だけでなく、悪用リスクも高まることになります。今回は生成AIにより発生している犯罪・詐欺に焦点を当てます
OpenAIのChatGPTやGoogleのBardに見られる生成AIプログラムは、音声、ビデオ、画像、文書を用いて、人間にとって本物に見えるアウトプットを素早く作成する能力があります。これまでもAIを用いた詐欺は言及されていますが、生成AIにより犯罪者が簡単に・高度な詐欺を用いることができようになります。その事例を見て行きます。
ディープフェイク、ボイス・スプーフィング
ディープフェイク（Deepfake）とは、既存の映像や音声を合成・改変して、まるで本物のように見せかけることができる、高度な偽造映像・音声です。ボイス・スプーフィング（Voice Spoofing）とは、人工的に生成された音声や他人の声を使って、正規の利用者であるかのように装い、音声認識システムや音声認証システムを騙す詐欺行為です。
これにより、SNSを用いた個人向けID詐欺や、選挙戦への干渉、国政コントロールが可能です。実際に、イーロンマスクが金融宣伝をしてユーザーIDを収集する事件や、ウクライナのゼレンスキー大統領が降伏を呼びかける偽動画、CEOの声を模倣して架空のサプライヤーに23万ユーロを支払うよう指示した事件が発生しています。
電子メールフィッシング
電子メールフィッシングは本物の送信元を装った電子メールにより架空請求・個人データ提供を狙う、現在では一般的な詐欺です。今まではメールをよく読めば詐欺かどうかが判定できますが、ChatGPTリリース以降に顧客をターゲットとする詐欺師が不審な電子メールで使用する言語の複雑さ、テキストの量、句読点、文章の長さが増加している、すなわち巧妙になっている発表もあります。
文書偽造
生成AIは、申請書、議事録、決算書など、政府への申請・監査・デューデリジェンスなどで用いられる文書を、従来よりも効率的・より巧妙に作成できるようになります。これにより文書詐欺がより巧妙に増加する可能性があり、すでに2022年に文書詐欺が79%増加した統計もあります。
以下、EISの考察です
- グローバルでは生成AIに対するブームが落ち着いてきて、実ビジネスを推進する状況になりつつあります。ChatGPTのユーザー数が減少する傾向が見られ、また8月に発表された2023 Gartner Hype Cycle for Emerging Technologiesでは生成AIは絶頂期に位置しており、これから定着に向けた取り組みが進むことになります。
- この状況において、企業はリスク、国毎に異なる法規制対応を睨みながら、巧妙化する詐欺に遭わないように状況に応じて対応していくことが現実的・優位に繋がります。
- 個人にとっては、これまでより高度化する詐欺により、リテラシーが高くダマされにくいと考えられていた人でも詐欺に遭う可能性が増えるものと思われます。この対応には、複数のニュースソースをあたったり、評判の高いツールを試しに使ってみたりすることが重要だと思われます。
