マルウェアを書き込むためにChatGptを誤用しているハッカー：OpenAIレポート

人気のAIチャットボットChatGPTの背後にある会社であるOpenaiは、2024年の初め以来、イランおよび中国の州が後援するハッカーにリンクされているネットワークを含む、世界中の20を超える運用と欺ceptiveネットワークを混乱させていることを明らかにしました。

で水曜日に公開されたレポートGenerative AI（Genai）会社は、これらの操作には、AIを搭載したチャットボット、ChatGPTを使用してマルウェアをデバッグし、ウェブサイトの記事を書くこと、ソーシャルメディアアカウントに偽のペルソナが投稿したコンテンツの生成、選挙関連の偽情報の広がりが含まれると述べました。

報告書を書いた研究者のベン・ニモとマイケル・フロスマンによると、脅威関係者はキャンペーンの中間段階でAIを活用しました。

「脅威アクターは、インターネットアクセス、電子メールアドレス、ソーシャルメディアアカウントなどの基本的なツールを取得した後、インターネット上のソーシャルメディアの投稿やマルウェアなどの「完成」製品を展開する前に、アクティビティの特定の中間段階でタスクを実行するためにモデルを使用しました。

しかし、彼らは、AIがサイバー攻撃と影響力のあるキャンペーンに関与しているにもかかわらず、その実際の影響はこれまで限られていることを強調しました。

彼らは、AIが新しい高度なマルウェアの作成に貢献したり、原告の努力を大幅に改善したりすることに貢献しているという証拠を発見していません。

Openaiレポートは、ChatGPTを悪用してサイバー攻撃を促進した3つの重要な脅威グループを強調しています。

sweetspectre：中国にリンクされたグループ、Sweetspectreは、偵察、脆弱性研究、スクリプトサポート、異常検出回避、および開発にChatGptを使用しました。

また、悪意のある添付ファイルを備えたスピアフィッシングメールは、一部のOpenAI従業員の企業および個人の電子メールアカウントに送信されたことがわかりましたが、ターゲットの受信トレイに到達する前にブロックされました。

cyberav3ngers：イランのイスラム革命警備隊（IRGC）に関連するこのグループは、水システム、製造、エネルギーシステムで使用される産業制御システム（ICS）およびプログラム可能な論理コントローラー（PLC）に対する破壊的な攻撃で知られています。

このグループは、ChatGPTモデルを使用して、脆弱性、デバッグコードを調査し、イスラエル、米国、またはアイルランドに通常関連するインフラストラクチャをターゲットにするためのスクリプトアドバイスを求めました。

ストーム-0817：別のイランを拠点とする脅威アクターであるStorm-0817は、AIモデルを使用してハッカーが公開されたのは初めてであるとOpenaiが考えています。

このグループは、ChatGptを使用してマルウェアをデバッグし、Instagramスクレーパーなどのツールを作成し、LinkedInプロファイルをペルシャ語に変換し、サポートコマンドおよびコントロールインフラストラクチャとともに、Androidマルウェアの実装にサポートをデバッグおよびコーディングするために試みました。

Further, the code snippets created in attacker-supplied prompts with the help of OpenAI's chatbot indicated that the malware could steal contacts, call logs, installed packages, median on external storage, screenshots, device IMEI and model, browsing history, latitude/longitude, files off external storage (pdf, excel docs), and content downloaded to external storage, including files sent by secure messaging apps like WhatsApp and IMO.

「並行して、Storm-0817はChatGPTを使用して、侵害されたデバイスからの接続を処理するために必要なサーバーサイドコードの開発をサポートしました」とOpen AIレポートを読みます。

「これにより、このマルウェアのコマンドと制御サーバーがWAMP（Windows、Apache、MySQL＆PHP/PERL/Python）のセットアップであり、テスト中にドメインStickhero [。] Proを使用していたことがわかりました。」

これらのグループはChatGptを悪用しようとしましたが、OpenaiはAIがマルウェアを開発するための重要な新しい機能を提供していないことを強調しました。ハッカーは漸進的な利点のみを獲得することができました。これは、公開されている非AAの駆動ツールを通じてすでに達成可能でした。

AIのサイバー攻撃への関与は懸念されていますが、Openaiはこれらの悪意のある活動を特定し、混乱させるための措置を実施しています。

「未来に目を向けている間、私たちはインテリジェンス、調査、セキュリティ研究、および政策チーム全体で作業を続け、悪意のある俳優が危険な目的のために上級モデルを使用し、執行措置を適切に計画することを予測します。