昨年、世界各国政府はFacebookに対し、アプリ全体にわたるエンドツーエンドの暗号化計画を放棄するよう圧力をかけてきました。この機能は犯罪者、とりわけ児童虐待者にとって隠れ蓑となると主張しているのです。Facebookは本日、Messengerに新たな不正利用検出および警告ツールを導入します。これは、保護機能を弱めることなく、こうした批判に対処できる可能性があります。
Facebookは本日、金融詐欺師や児童虐待の疑いのある者からのメッセージが届いたと思われる場合に警告をMessengerアプリ内に表示し、ヒントを提供して違反者をブロックするよう提案する、Messengerの新機能を発表した。Facebookが3月にAndroid向けに展開を開始し、今回iOSにも導入するこの機能は、Facebook Messengerの10億人以上のユーザー間のコミュニケーションを機械学習で分析し、怪しい行動を特定する。しかし重要なのは、Facebookによると、この検出はメッセージの内容の分析ではなくメタデータのみに基づいて行われるため、Messengerの「シークレットカンバセーション」機能で提供されるエンドツーエンドの暗号化が損なわれることはないという点だ。Facebookは、最終的にはすべてのMessengerチャットにデフォルトでエンドツーエンドの暗号化を展開すると述べている。
FacebookのMessengerプライバシーおよび安全担当プロダクトマネジメントディレクター、ジェイ・サリバン氏のブログ投稿には、「Messengerに安全通知を導入します。これはチャット中にポップアップ表示され、不審な行動に気づき、何かおかしいと感じた際にブロックまたは無視するなどの行動を取るためのヒントを提供します。エンドツーエンドの暗号化への移行に伴い、メッセージの内容にアクセスすることなくユーザーの安全を守るため、このようなプライバシー保護ツールに投資しています」と記されています。
Facebookは、機械学習による不正検知の仕組みについて、詳細をほとんど明らかにしていない。しかし、Facebookの広報担当者はWIREDに対し、検知メカニズムはメタデータのみに基づいていると語った。つまり、誰が誰と話しているのか、いつメッセージを送信しているのか、どのくらいの頻度で送信しているのか、関連アカウントのその他の属性など、基本的に通信内容以外のすべてに基づいているということだ。通信内容は暗号化されているため、Facebookのサーヴァーは通信内容にアクセスできない。「機械学習モデルを通じて開発できる非常に優れたシグナルを得ることができ、それは当然ながら時間とともに向上していくでしょう」と、Facebookの広報担当者はWIREDの電話インタビューで語った。詳細を明らかにすることを拒否した理由の一つは、悪意のある人物が安全対策を回避するのを意図せず助けたくないためだとしている。
Facebookのブログ記事では、成人が多数の未成年者にメッセージや友達リクエストを送信するという例を、同社の行動検出メカニズムが虐待の可能性のある人物を特定できる例として挙げています。Facebookによると、他のケースでは、2人のソーシャルグラフのつながりの欠如（お互いを知らないことを示す兆候）や、ユーザーが過去に誰かを報告またはブロックした事例を、その人物が何か怪しいことをしている兆候と見なすこともあるとのことです。
例えば、Facebookのスクリーンショットには、メッセージの受信者が詐欺師の可能性がある人物を知っているかどうかを尋ねるアラートが表示されています。受信者が「いいえ」と答えた場合、アラートは送信者をブロックすることを提案し、見知らぬ人に送金しないようアドバイスを提供します。別の例では、名前とプロフィール写真を使って受信者の友人になりすましている人物をアプリが検知します。その場合、なりすましの人物と実際の友人のプロフィールが並べて表示され、詐欺師をブロックするようユーザーに提案するアラートが表示されます。
写真: Facebook
Facebookはメッセージの内容を確認していないという主張には、一つ例外がある。Messengerの不正行為報告機能には、ユーザーがフラグを立てるとFacebookにメッセージを送信する機能が以前から含まれている。これは、Facebookにとって、送信者が他にどのような不正行為を行っているかを知る手がかりとなる可能性があるが、暗号化されたメッセージの受信者はいつでも復号版を第三者と共有できるため、一般的にはエンドツーエンド暗号化の侵害とはみなされない。1
写真: Facebook
現時点では、安全通知機能は、潜在的な迷惑行為をブロックするか無視するかを明示的に提案するだけです。（ユーザーは、送信者の名前をタップして「問題が発生しました」と入力し、何が起こったかを指定するという通常の方法で、迷惑行為を報告することはできます。）Facebookの広報担当者は、「私たちは人々に即座に行動を起こしてもらいたかったのです。そして、ブロックは被害を回避するために人が取れる最も迅速な行動です。報告機能もこの機能に導入することを検討しています。」と述べています。
Facebookメッセンジャーがメタデータのみに基づく不正利用アラート機能を追加したことは「良いスタート」だと、Facebookの元最高セキュリティ責任者アレックス・スタモス氏は述べている。しかし、スタモス氏はFacebookはもっと多くのことをできるし、すべきだと主張している。現在スタンフォード・インターネット・オブザーバトリーを率いるスタモス氏は、Facebook、Google、Microsoft、Snapchatなどの企業は、ユーザーのデバイスにおける不正行為の兆候を監視すべきだと主張している。
「クライアント側でコンテンツを確認できる機能を持つべきだと考えています。そして、それが実現したら、ユーザーが報告できるように促すべきです」とスタモス氏は言います。デバイス上でのコンテンツ分析と報告により、Facebookは単なるメタデータスキャンよりも早く不正行為者を発見できると同時に、エンドツーエンドの暗号化も維持できるとスタモス氏は言います。
スタモス氏はまた、Facebookがアラートにおいて単なるブロックではなく報告を重視していれば、法執行機関が重大犯罪者に対して利用できる証拠となる可能性があると指摘する。「データから10代の少女たちを『友達』にしようとしたという情報を得たからといって、その人を逮捕することはできないでしょう」とスタモス氏は付け加える。「一方、実際に少女にヌード写真のリクエストを送った場合、ほとんどの場合、それはおそらく違法です。これは捜索令状を取得し、場合によっては起訴される可能性があります。本当に知りたいのは通信内容であり、エンドツーエンドの暗号化においてそれを実現する最善の方法は、受信者に会話を報告するよう促すことです。」
Facebookの広報担当者は、クライアント側でのコンテンツ分析の可能性について尋ねられ、「この対策は考慮されておらず、この安全機能には必要ない」と述べた。
Facebookは、他の多くのテクノロジー企業と同様に、トランプ政権と議会から、法執行機関が通信や保存データにアクセスできるよう暗号化メカニズムを組み込むよう、ますます圧力を受けています。3月には、「EARN IT法」と呼ばれる法案が提出されましたが、現状のままでは、強力なエンドツーエンド暗号化を事実上禁止する可能性があります。そして今週、ウィリアム・バー司法長官は、昨年12月に発生した銃乱射事件で3人を殺害したアルカイダと関係のあるモハメド・サイード・アルシャムラニ容疑者が所有していた2台の古いiPhoneの暗号解読にAppleが協力しなかったことを批判しました。
Facebook社は、新たな安全に関する通知は政治的圧力への対応ではなく、実際にはマーク・ザッカーバーグ氏が昨年、エンドツーエンドの統合暗号化メッセージングシステムへの段階的な移行を発表する以前から準備を進めてきたものだと主張している。
しかしスタモス氏は、まさにこの種のツールこそが暗号化批判を鎮めるために必要であり、暗号化の根本的なプライバシー保証を損なうことなく、さらに多くのツールが必要かつ実現可能であると主張している。「彼らがここで実験を行っていることは良い兆候だと思います」とスタモス氏は言う。「これは、彼らが暗号化の欠点のいくつかに対処する責任があると考えていることの表れであり、それは単に道徳的に正しいというだけでなく、エンドツーエンド暗号化が生き残るための前提条件なのです。」
1暗号化された会話に関する Facebook の報告プロセスの仕組みを明確にするため、2020 年 5 月 21 日午後 2 時 (東部標準時) に更新されました。
WIREDのその他の素晴らしい記事
- 中国のAI大手がチャットと監視を容易にした方法
- インターネットを救ったハッカー、マーカス・ハッチンズの告白
- 遠く離れていても一緒に歌うことを学ぶ
- 東京湾での27日間：ダイヤモンドプリンセス号で何が起こったのか
- 自宅で髪を切るためのヒントと道具
- 👁 AIがCOVID-19の潜在的な治療法を発見。さらに、最新のAIニュースもお届けします
- 🏃🏽♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください
WIREDのその他の素晴らしい記事
- 中国のAI大手がチャットと監視を容易にした方法
- インターネットを救ったハッカー、マーカス・ハッチンズの告白
- 遠く離れていても一緒に歌うことを学ぶ
- 東京湾での27日間：ダイヤモンドプリンセス号で何が起こったのか
- 自宅で髪を切るためのヒントと道具
- 👁 AIがCOVID-19の潜在的な治療法を発見。さらに、最新のAIニュースもお届けします
- 🏃🏽♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください
