公開日：2025年4月9日 午後3時21分（オーストラリア東部標準時）
著者：Matthew Grosse
リアルタイムナビゲーションから病気の早期発見まで、人工知能（AI）には多くの利点がある一方で、その利用の急増は詐欺 (fraud) や欺瞞 (deception) の機会も増大させています。
大企業、中小企業、そしてオーストラリア税務署（ATO）でさえ、正規の領収書 (receipts) や請求書 (invoices) と見分けがつかないような不正な 払い戻し請求 (reimbursement claims) に直面する可能性があります。
個人も注意が必要です。
下の領収書の写真をご覧ください。1枚は本物の取引を記録したもので、もう1枚はChatGPTを使用して作成されたものです。偽物だと分かりますか？
図表：An AI generated fraudulent receipt (left) and a photo of a genuine receipt (right). Author provided. AIが生成した偽造レシート（左）と本物のレシートの写真（右）。著者提供。（英語版を参照）
おそらく見分けられないでしょう。まさにそこがポイントです。正規の金融文書をほぼ完璧に偽造できるシステムは、ますます普及し、高度化しています。
先週、OpenAIは、テキストを含む写実的な画像を作成できる改良された画像生成モデルをリリースしました。
なぜ私たちは気にする必要があるのでしょうか？
偽造金融文書に関わる詐欺は、世界的に深刻な問題です。国際 公認不正検査士協会（AFSE）は、企業組織が毎年約5%の収益を不正によって失っていると推定しています。
同協会は 2024年度の報告書 で、1,921件の不正行為で31億米ドルを超える損失を記録しています。請求書および経費の不正は資産横領事件の35%を占め、企業は1件あたりの平均損失額を15万米ドルと報告しています。
最も懸念されるのは、不正行為者が主に偽造文書の作成やファイルの改ざんによってこれらの犯罪を隠蔽することです。まさにAIが今やそれを簡素化しているのです。
偽造文書は様々な方法で不正行為を可能にします。従業員が実際には行われていないビジネスランチの領収書を作成したり、請負業者が実際には発生していない経費の領収書を偽造したりするかもしれません。いずれの場合も、不正行為者は偽造文書を用いて、本来受け取るべきではない金銭を詐取します。
この問題は、認識されているよりも広範囲に及んでいる可能性があります。2024年の調査 では、従業員の24%が経費不正を認め、さらに15%が検討中であることが明らかになりました。
さらに懸念されるのは、英国の公共部門 の意思決定者の42%が不正請求を行ったことを認めたことです。
AIは欺瞞の障壁を取り除く
AI技術が潜在的な詐欺の急増につながる可能性がある理由を理解するには、古典的な「詐欺のトライアングル」を検証する必要があります。これは、詐欺にはインセンティブ (incentives)、合理化 (rationalisation)、機会 (opportunity) という3つの要素が必要であることを説明しています。
歴史的には、技術的な障壁によって、たとえ動機があったとしても、偽造文書の作成は制限されていました。
AIは偽造文書の作成を容易にすることで、これらの障壁を取り除きます。研究による と、機会が拡大すると詐欺も増加することが確認されています。
偽造請求が誰もが抱える問題になる時
偽造領収書が税額控除の根拠となる時、私たち全員がその費用を負担することになります。
年収12万ドルのマーケティングコンサルタントが、AI画像ジェネレーターを使って、実際には存在しない4,000ドルの経費について、説得力のある領収書を数枚作成した場合を考えてみましょう。限界税率が30%の場合、この詐欺によって約1,200ドルの税金が節約されます。ただし、発覚しない限りです。
オーストラリア税務局は、中小企業による控除額の過大請求によって、年間27億ドルの赤字が生じていると推定しています。デジタル偽造が容易になったことで、この赤字は大幅に拡大する可能性があります。
図表：An AI generated fraudulent receipt. Author provided. AIが不正な領収書を生成しました。著者提供。（英語版を参照）
偽造領収書と偽造請求書
消費者は、AIが生成した領収書や請求書を利用する詐欺師の被害に遭いやすくなっています。
電力会社から、一見正式な請求書のように見えるものを受け取ったと想像してみてください。唯一の違いは、支払い明細によって資金が詐欺師の口座に振り込まれることです。
これは既に発生しています。オーストラリア競争消費者委員会は、2023年には詐欺による損失が 31億ドル を超え、支払いリダイレクト詐欺が急速に増加していると報告しています。
AIツールによって説得力のあるビジネス文書の作成と編集が容易になるにつれて、これらの詐欺の件数は増加する可能性があります。
増大する脅威
企業と消費者の両方にとってのこの脆弱性は、デジタル文書への依存度が高まるにつれてさらに高まっています。
今日、多くの企業がデジタル形式で領収書を発行しています。経費管理システムでは通常、従業員に領収書の写真またはスキャンの提出を求めます。税務当局は電子的に保存された文書も受け入れます。
紙の領収書はますます少なくなり、紙の物理的なセキュリティ機能が失われているため、デジタルの偽造品は目視検査のみで見分けることはほぼ不可能になっています。
デジタル認証は解決策となるのか？
潜在的な対策の一つとして、コンテンツの出所と真正性（C2PA）規格 が挙げられます。C2PA規格は、AIが生成した画像に、ファイルの出所に関する検証可能な情報を埋め込みます。
しかし、ユーザーが画像のスクリーンショットを撮ることでメタデータを削除できるため、大きな弱点が残っています。企業や税務当局にとって、デジタル認証規格は高度なデジタル偽造への対策の一部に過ぎません。しかし、デジタル時代において紙の文書に戻ることは現実的ではありません。
もはや、”百聞は一見に如かず” ではない
AIが本物そっくりな偽造財務文書を作成できる能力は、経費精算と財務セキュリティに対する私たちのアプローチを根本的に変えるでしょう。
領収書や請求書を目視で確認するという従来の方法は、急速に時代遅れになりつつあります。
企業、税務当局、そして個人は、単に文書を見る以上の検証システムを導入することで、迅速に適応する必要があります。
これには、銀行記録との取引照合や、異常な支出パターンを警告する自動異常検出システムなどが含まれる可能性があります。おそらく、ブロックチェーン技術の活用が取引の検証に拡大していくでしょう。
AIが作り出せるものと、私たちのシステムが確実に検証できるものとの間のギャップは、ますます広がっています。では、もはや「百聞は一見に如かず」ではない時代において、金融取引における信頼をどのように維持していくのでしょうか？
この記事は、クリエイティブコモンズライセンス(CCL)の下で The Conversation と各著作者からの承認に基づき再発行されています。日本語訳は archive4ones(Koichi Ikenoue) の翻訳責任で行われています。オリジナルの記事を読めます。original article.
