アップルが計画しているのは、ロールアウトする子どもたちをオンラインの犯罪者から守り、児童性的虐待資料 (CSAM) の拡散を制限するための保護を拡大する米国の新しいシステム。
このため、クパチーノの巨人は、子どもの安全の専門家と協力して開発した、3 つの分野で新しい子どもの安全機能を導入しています。これらの領域は、メッセージにおける通信の安全性、CSAM 検出、Siri と検索におけるガイダンスの拡張です。
「Apple の目標は、安全を確保しながら、人々に力を与え、生活を豊かにするテクノロジーを開発することです」と Apple はブログ投稿で書いています。 「このプログラムは野心的であり、子供たちを守ることは重要な責任です。こうした取り組みは時間の経過とともに進化し、拡大していきます。」
メッセージにおける通信の安全性
メッセージアプリには、性的に露骨な写真を送受信する際に子供とその親に警告する新しいツールが追加される。これにより、保護者は、子供たちがオンラインでコミュニケーションを行うのを支援する上で、より多くの情報に基づいた役割を果たすことができるようになります。
このタイプのコンテンツを受信すると、写真はぼやけて表示され、子供は警告され、役立つリソースが提示され、この写真を見たくなくても大丈夫だと安心させられます。追加の予防措置として、安全を確保するために、保護者が閲覧した場合にはメッセージが送信されることを子供に伝えることもできます。
子供が性的に露骨な写真を送信しようとした場合にも、同様の保護が利用可能です。写真が送信される前に子供に警告が表示され、子供が送信を選択した場合、保護者はメッセージを受け取ることができます。
メッセージアプリは、オンデバイスの機械学習を使用して画像の添付ファイルを分析し、写真が性的に露骨であるかどうかを判断すると同時に、プライベートな通信を Apple が読み取ることができないようにします。
CSAMの検出
CSAM は、子供が関与する露骨な性的行為を描写したコンテンツを指します。 iOS と iPadOS は、オンラインでの CSAM の拡散を制限するために、新しい暗号化アプリケーションを使用します。
さらに、既知の CSAM を検出する Apple の方法は、ユーザーのプライバシーを念頭に置いて設計されています。このシステムは、クラウド内の画像をスキャンする代わりに、NCMEC (国立行方不明児童搾取児童センター) やその他の児童安全保護団体が提供する既知の CSAM 画像ハッシュのデータベースを使用して、デバイス上で照合を実行します。
Apple はさらに、このデータベースを読み取り不可能なハッシュのセットに変換し、ユーザーのデバイスに安全に保存します。
NeuralHash と呼ばれるハッシュ技術は、画像を分析し、その画像に固有の一意の番号に変換します。ほぼ同一に見える別の画像のみが同じ数値を生成できます。たとえば、サイズやトランスコードされた品質が異なる画像でも、同じ NeuralHash 値を持ちます。
ユーザーの写真と CSAM データベースが一致する場合、Apple は各レポートを手動でレビューして一致があることを確認し、ユーザーのアカウントを無効にして、レポートを NCMEC に送信します。ユーザーが自分のアカウントに誤ってフラグが立てられたと感じた場合は、アカウントの回復を求める申し立てを行うことができます。
このしきい値は、非常に高いレベルの精度を提供するように設定されており、特定のアカウントに誤ってフラグが設定される可能性が年間 1 兆分の 1 未満であることが保証されます。
この革新的な新技術により、Apple は既知の CSAM の拡散に関する貴重で実用的な情報を NCMEC および法執行機関に提供できるようになります。
これにより、Apple はユーザーの写真について学習するのは、ユーザーが iCloud 写真アカウントに既知の CSAM のコレクションを持っている場合に限られるため、既存の技術に比べてプライバシーに大きな利点が得られます。このような場合でも、Apple は既知の CSAM に一致するイメージについてのみ学習します。
Siri と検索のガイダンスを拡張
Apple はまた、子供と保護者がオンラインで安全を確保し、危険な状況で助けを得られるように支援するための追加リソースを提供することで、Siri と検索に関するガイダンスを拡張しています。たとえば、CSAM や児童の搾取を報告する方法を Siri に尋ねたユーザーは、報告の場所と方法に関するリソースを案内されます。
ユーザーが CSAM 関連のトピックを検索しようとすると、Siri と検索も介入します。これらの介入は、このトピックへの関心が有害で問題があることをユーザーに説明し、この問題について支援を受けるためのパートナーからのリソースを提供します。
国立行方不明・搾取児童センターのジョン・クラーク社長兼最高経営責任者（ＣＥＯ）は声明で「アップルの児童保護の拡充は状況を大きく変えるものだ」と述べた。
「非常に多くの人がApple製品を使用しているため、これらの新しい安全対策は、オンラインで誘惑されたり、児童性的虐待資料として恐ろしい画像が流布されたりしている子どもたちの命を救う可能性を秘めています。」
児童の性的搾取と闘う技術を構築する非営利団体ソーンの最高経営責任者（CEO）、ジュリア・コーデュア氏は、アップルのテクノロジーは「プライバシーの必要性と子どものデジタル安全性」のバランスをとっていると述べた。
iPhone のメッセージ アプリ、Siri、検索に対する上記のすべてのアップデートは、今年後半に iOS 15、iPadOS 15、watchOS 8、macOS Monterey のアップデートで提供される予定です。
