着実に増加している デジタル詐欺と不正行為 ソーシャルメディアやメッセージングアプリを標的としたサイバー犯罪により、大手テクノロジー企業はセキュリティ対策の大幅な強化を迫られています。一見無害に見えるメッセージ、広告、連絡先などを通じて、アカウントや銀行口座情報を盗んだり、有名ブランドになりすましたりしようとするサイバー犯罪者が、ますます蔓延しています。
このコンテキストでは、 Meta 新世代のセキュリティ戦略を強化している Facebook、WhatsApp、Messengerに不正防止AIを適用アプローチは明確です。ユーザーが罠に陥る前に警告し、悪意のあるコンテンツへの露出を最小限に抑え、プラットフォーム上で活動する詐欺師の活動を可能な限り困難にします。
Meta での詐欺に先手を打つ詐欺対策 AI
Metaは、次のような機能を組み合わせたセットを展開しています。 デバイス自体の人工知能とリモートサーバーでの分析このアーキテクチャにより、WhatsApp や Messenger などのサービスでエンドツーエンドの暗号化を尊重できると同時に、ユーザーが特定の疑わしいコンテンツをレビュー用に送信することを決定したときに、高度な検出の追加レイヤーを提供できるようになります。
これらのツールは、分析できるモデルに依存している。 テキスト、画像、リンク、行動パターン目標は、有名人の顔を許可なく使用した詐欺広告から、認証コードを入手しようとする「テクニカルサポート」メッセージ、被害者の信頼を得ようとする偽アカウントからの友達リクエストまで、あらゆるものを特定することです。
同社が公開したデータによると、この問題は軽微なものではない。メタ社は、 組織的な詐欺ネットワークに関連する数百万のアカウントと広告を混乱させた Facebook、Instagram、WhatsApp 上に、複数の国にまたがる実際の詐欺センターにリンクされているケースもありました。
この技術的攻勢は、AIと並んで作業する人間のレビューチームにも依存しており、モデルは実際の例でトレーニングされ、疑わしいコンテンツの分類における誤差の範囲が縮小されます。
WhatsApp: アカウント乗っ取りや不審なグループに対するファイアウォール
の場合 WhatsAppMeta の不正防止 AI は、特に一般的な攻撃ベクトルのいくつかに重点を置いています。 デバイスリンクによるアカウント乗っ取り、未知のグループによるテクニカル サポート詐欺や詐欺行為。
主な新機能の1つは、 認識されていないデバイスにアカウントをリンクしようとすると警告が出ます。疑わしいリクエストが検出された場合、アプリはリクエストの発信元などの情報と、詐欺の可能性があることを明確に警告します。これにより、ユーザーは第三者が会話に完全にアクセスする前に、リクエストを停止できます。
AIは次のような状況にも介入します 不明な連絡先とのビデオ通話中の画面共有このリスク パターンが検出されると、システムは自動警告を発します。これは、多くの「テクニカル サポート」詐欺が、銀行の認証情報、ワンタイム コード、またはその他の特に機密性の高い情報を取得するためにユーザーの画面をライブで表示することに依存しているためです。
さらに、ユーザーがメンバーについてあまり知らないまま参加したグループには、 予防安全パネルこのパネルには、グループの詳細、詐欺行為を検出するためのヒント、やり取りせずに退出するオプション、ユーザーが残留を確定するまで通知をミュートするオプションが表示されます。
メタもテスト中 アドレス帳に登録されていない番号とチャットを開始するときにコンテキストアラートを表示するシステムがフィッシング、偽の投資、不明瞭な金銭要求などの典型的な兆候を検知した場合、細心の注意を払うよう推奨し、数回のタップでブロックまたは報告する可能性を提供します。
Facebook：友達リクエストと偽の「サポート」ページを精査
En Facebook不正行為防止 AI には主に 2 つの側面があります。 疑わしい友達リクエスト カスタマー サービス部門や既存のブランドを偽装する Web サイト。
友達リクエストを受け取った際に、プラットフォームはリスク要因（共通の友達がほとんどいないアカウント、最近作成されたプロフィール、ユーザーのネットワークと一致しない地理的な出身地、ボットネットワークに関連するパターンに一致する行動など）を検出した場合、警告を表示することがあります。これにより、ユーザーは リクエストを受け入れるか、無視するか、ブロックするかをより適切に判断する 潜在的な詐欺師に扉を開く前に。
もう一つの関連する焦点は 偽のサポートページとアカウント アカウントの復旧や問題解決の支援を求めるユーザーを騙そうとする詐欺サイト。Metaは、復旧手続きを「迅速化」するため、ログイン認証情報、身分証明書、または支払いを要求する数万のサイトに対して措置を講じたと主張している。
同社はまた、 広告主の検証と不正広告の検出これには、有名人、ビジネスマン、公人の画像を許可なく使用する者も含まれます。AIは顔を比較し、偽の投資、存在しないプロモーション、あるいは届かない商品を正当化するために繰り返される不正操作を特定します。
この点は、スペインやその他のヨーロッパ諸国の企業やコンテンツ制作者にとって特に敏感な問題です。 起業家や地元の著名人のイメージを利用して被害者を誘引する修復が困難な混乱と評判の失墜を引き起こします。
メッセンジャー: ユーザー設定可能な詐欺検出
Facebookにリンクされたメッセージングアプリ、 メッセンジャーと呼ばれる特定の機能を組み込んでいます 「詐欺検出」このオプションはプライバシーとセキュリティ設定からアクセスでき、不明な連絡先から開始された会話をより詳細に分析します。この機能を有効にすると、会話をより深く分析できます。
AIは、 偽のオファーの特徴的なパターンこれらには、前払いを要求するリモートワークのオファー、リターン保証付きの投資、緊急の金銭要求メッセージ、有名企業のサポートスタッフになりすましたものなどが含まれます。異常を検知した場合、存在するリスクの種類を示すアラートを表示し、送信者をブロックまたは報告することを提案します。
ユーザーが明示的に許可した場合、マークされたメッセージは、ケースバイケースで より深いAI分析のためのメタサーバーこの手順により、特定のコンテンツに対してのみエンドツーエンドの暗号化が一時的に解除されます。これは、各人がリスク許容度とプライバシーの懸念に応じて判断する必要があります。
並行して、メッセンジャーは リンク保護セーフブラウジング機能は、すでにデバイス自体でURLを分析していましたが、現在は高度な保護と呼ばれる追加のレイヤーに依存しており、 常に更新されるリスト 危険なサイトから保護します。この設計は、ユーザーの個人情報や閲覧履歴全体を公開することなく、フィッシングページやマルウェアのダウンロードへのアクセスをブロックすることを目的としています。
Messengerを通常のチャネルとして使用しているサポート、営業、またはカスタマーサービスチームにとって、これらの改善は 自社ブランドを狙った詐欺に対するさらなる防御 毎日やりとりするユーザーにとって、より安全な環境となるためです。
ボンネットの下に隠された人工知能
Metaの新しいセキュリティ機能は、2つの補完的なアプローチを組み合わせたハイブリッドアーキテクチャを採用しています。1つ目は デバイス上の分析これはユーザーの携帯電話またはコンピューター上で直接動作し、リスクパターンを検出するためにコンテンツを外部サーバーに送信する必要がないため、エンドツーエンドの暗号化を尊重します。
このローカル分析は、次のようなシグナルに焦点を当てています。 保存されていない番号からのメッセージを受信するこれには、見知らぬ人と画面を共有しようとする試み、アカウントの突然の行動変化、過去の不正行為報告と一致するリンクの出現などが含まれます。デバイス自体を操作することで、外部に送信されるデータ量が削減され、即座に最前線の防御策となります。
2番目のレイヤーはユーザーが選択したときにアクティブになります クラウド内の AI を使用してレビュー用にコンテンツを送信するこの場合、フラグが付けられたメッセージまたはアイテムはMetaのシステムによって処理され、より複雑なモデルを用いて、発生している事象が既知の詐欺の種類に該当するかどうかを評価します。分析の結果、リスクがあると判断された場合、プラットフォームは潜在的な詐欺についての説明を表示し、具体的な対応策を推奨します。
同社は、AIに加えて、 1日に何百万ものコンテンツを審査する人間のモデレーションチームこの人間的要素があるからこそ、モデルを改良し、最も繊細なケースを管理し、単純な単独のメッセージを超えた大規模な組織化されたキャンペーンを解体することが可能になるのです。
このメカニズム全体は、悪意のあるドメイン、偽アカウントネットワーク、犯罪組織が使用する新たな戦術に関する情報を共有するために、治安部隊やテクノロジー分野の他の関係者との協定によって補完されています。
MetaのAIが阻止しようとしている主な詐欺の種類
メタプラットフォームは、 多種多様なデジタル詐欺新しいツールは、スペインとヨーロッパのユーザーを狙った次のような一般的な詐欺を検出し、阻止するように設計されています。
- 偽のテクニカルサポート詐欺: 銀行のサポートサービス、オペレーター、または Meta 自体になりすまして、確認コード、パスワード、またはデバイスへのリモート アクセスを要求する人々。
- 画面共有詐欺: 詐欺師はビデオ通話で被害者に画面を見せさせ、銀行の詳細、オンライン バンキングや支払いゲートウェイなどのサービスのワンタイム コードまたは認証情報を含む SMS を取得します。
- 存在しない求人と奨学金: 「手続き」のための初期費用や個人情報の提供と引き換えに、簡単または高収入の仕事を約束する広告やプライベートメッセージ。
- 投資スキームと暗号通貨: 有名人やよく知られたビジネスマンを許可なく起用して、迅速かつ保証された利益を約束するキャンペーン。
- フィッシングと悪意のあるリンク: 銀行、電子商取引プラットフォーム、公共サービスなどの正規のポータルを模倣した URL で、認証情報を盗んだりデバイスにマルウェアをインストールしたりすることを目的としています。
自動監視、危険サイトのブラックリスト、ユーザーからの報告メカニズムを組み合わせることで、 システムは、こうした詐欺の新しいバリエーションにすぐに適応します。これらは多くの場合、検出を逃れるために変異します。
Metaに依存するユーザー、企業、創設者への影響
新しいAI不正防止機能は、一般ユーザーを保護するだけでなく、 Facebook、WhatsApp、Messengerを基本インフラとして利用する企業 販売、顧客サービス、コミュニティ構築のため。
一方、企業が顧客とのコミュニケーションにWhatsApp BusinessやMessengerを使用する場合、 システムがそのメッセージを疑わしいと認識した場合、警告が発せられる可能性があります。例えば、多くのリンクを記載したり、機密データを要求したりするなどです。誤検知を最小限に抑え、視聴者の信頼を維持するためには、スクリプト、トーン、頻度を見直す必要があります。
一方、特にセンシティブな分野のスタートアップ、例えば フィンテック、デジタルヘルス、法律サービスこれらのツールには、AI ベースのセキュリティがもはや「余分なもの」ではなく、重要なデータを扱うあらゆる製品やサービスに対する最低限の期待事項になっているという明確な兆候が見られます。
Metaの他のテクノロジー企業や公的機関との連携が拡大することで、 サイバーセキュリティに特化した企業にとっての新たな機会、そのソリューションを大規模プラットフォームの脅威検出エコシステムに統合したり、中小企業にコンサルティング サービスを提供したりすることができます。
最終的に、これらの対策の有効性は、利用可能な不正防止機能を有効にし、アプリを最新の状態に保ち、迷惑メッセージに注意し、疑わしい行動をフィード検出システムに報告するなど、ユーザーと組織の両方が適切な慣行を採用するかどうかにかかっています。
新しい Facebook、WhatsApp、Messenger の不正行為防止 AIMeta は、詐欺師にとっては多少困難で、個人ユーザーから活動の重要な部分をこれらのプラットフォームに依存している企業まで、毎日サービスを利用する人々にとっては多少安全なデジタル環境に向けて重要な一歩を踏み出しています。
