Gemini AI がユーザーの許可なく Google ドライブのドキュメントをスキャンしていることを発見

AIガバナンス上級顧問でXユーザーのケビン・バンクスター氏による衝撃的な暴露によると、Googleの社内人工知能サービス「Gemini AI」は、明らかにユーザーの明示的な許可を得ることなく非公開のGoogleドライブ文書を読み取っていたようだ（経由）トムのハードウェア）。

Google の回答を更新:

Googleはそのような主張を否定している。 Googleの広報担当者はtechwormに連絡してこう言った。

「当社の生成 AI 機能は、ユーザーに選択肢を提供し、ユーザーがデータを管理できるように設計されています。 Google Workspace で Gemini を使用するには、ユーザーが積極的に有効にする必要があり、ユーザーが有効にすると、プロンプトに対する有益な応答を生成するためにプライバシーが保護された方法でユーザーのコンテンツが使用されますが、許可なく保存されることはありません。」

「この例では、ユーザーは以前、PDF 用の Google ドライブのサイドパネル経由で Gemini を使用していましたが、今後は使用しないことを希望しているようです。これは、サイドパネルを閉じるだけで簡単に行えます。」

Googleのコメント前のユーザーの主張は以下の通り。

Kevin 氏によると、Google Docs で納税申告書を PDF として開くと、Gemini AI は、何も情報を与えたり、AI に依頼したりすることなく、すぐに税金の概要を提供してくれました。

さらに調査した結果、この問題は PDF にのみ影響することが判明しました。

たった今納税申告書を取り出したところです@グーグルドキュメント――そして誰にも頼まれていないが、ジェミニはそれを要約した。つまり…Gemini は、私が Google ドキュメントで開いたプライベートドキュメントも自動的に取り込んでいるのでしょうか?なんてことだ、みんな。私はこれを求めていません。このクソをオフにするために、今まで知らされていなかった新しい設定を見つけなければなりません。
— ケビン・バンクストン (@KevinBankston)2024 年 7 月 10 日

Gemini に通知するために使用されるプライバシー設定は公開されるべきでしたが、公開されていませんでした。

Kevin は別の X ユーザーの助けを借りて最終的に正しい設定を見つけることができましたが、驚いたことに、そのオプションは Gmail、Google ドキュメント、Google ドライブではすでに無効になっていました。

これは、Gemini AI が Gmail、Google ドキュメント、Google ドライブのドキュメントにアクセスして要約するべきではないことを意味します。

また、設定スイッチは、ジェミニのボットが最初に指示した場所とはまったく異なる場所にありました。

「AIが『幻覚を見せている（嘘をついている）』か、Googleサーバーの一部の内部システムが完全に故障しているかのどちらかです。いずれにせよ、たとえこの個人データがジェミニ AI のトレーニングに使用されなかったとしても、見栄えはよくありません」とケビンは、X アカウントで AI アシスタントとの驚くべきやりとりについて書いています。

Kevin は、2023 年に登録した Google Workspace Labs を有効にしたことが問題の原因であり、意図された Gemini AI 設定に取って代わられた可能性があると考えています。

しかし、その後のツイートで、彼は Gemini 拡張機能をオフにして、Gemini が Google ドライブ上のデータを読み取れないようにする方法を共有しました。