人工知能のブラックマーケット。こちらが「MALLA」です!

(へ カルロモーセリ)
30/09/24

人工知能の進化は、いくつかの分野で顕著な進歩をもたらしましたが、同時に新しい攻撃手法や新たな悪意のある活動への道も開かれました。この新しいシナリオでは、「Malla」は 新たに出現する洗練された脅威.

これらは MALLA と呼ばれています。まだ聞いたことがない方のために説明すると、これはかなり最近の用語であり、高度な言語モデルを使用して大規模なサイバー攻撃を自動化および強化するサービスを表す造語です。

私たちは邪悪な人工知能の闇市場について話していますが、それは世界中で急速に拡大しています。サイバー犯罪者は、人工知能と高度な言語モデルの可能性を最初に悪用しました。どうして?何を提供するのでしょうか?

シンプル: 悪意のあるサービス。マルウェア コードの生成からフィッシングメールの作成、悪意のある Web サイトの作成に至るまで、より一般的にはサイバー攻撃を開始する条件を作り出すすべてのものを指します。

マラスはどのように機能しますか?彼らはどのようにして私たちの安全を危険にさらすのでしょうか?

この記事では、ブルーミントン大学の何人かの研究者が作成した次のタイトルの文書を分析することで、このことについて説明します。大規模言語モデルの謎を解く 統合された悪意のあるサービス"

予想どおり、Mallas は大規模言語モデル (LLM) を統合して非常に効果的な攻撃ツールを作成する悪意のあるサービスです。高度な技術スキルが必要ないため、従来の攻撃とは大きく異なります。実際、Mallas はサイバー犯罪者が人工知能機能を悪用して悪意のあるコードを生成し、キャンペーンを自動化することを許可しています。 フィッシング詐欺 攻撃インフラを迅速かつ効率的に構築します。

これらのサービスは多くの場合、次の場所で利用できます。 ダークウェブマーケットプレイス、初心者から熟練者まで、さまざまなスキルを持つ犯罪者に販売されます。したがって、Mallas はサイバー犯罪への参入障壁を確実に下げ、ほとんど誰に対しても、非常に少ない労力、投資、リソースで高度な攻撃を仕掛けることができるようにしています。

その主な用途と、それらが引き起こす可能性のあるさまざまな種類のサイバー攻撃について見てみましょう。:

  1. 悪意のあるコードの生成。これは、Mallas で最も一般的に使用されるエリアの 1 つです。 LLM のおかげで、犯罪者はシステムの特定の脆弱性を悪用するアドホック スクリプトやマルウェアを作成できます。これらのモデルは、特定のターゲット システムのコンテキストと技術仕様を分析して理解し、従来の防御を回避できるコードを生成します。文書化されている実際の例は、Malla サービスを使用してビルドしたハッカーのグループです。 ゼロデイエクスプロイト。これにより、彼らは数か月間検出されずに重要なシステムを攻撃することができました。このコードは非常に洗練されていたため、高度な AI ベースの検出システムさえも回避することができました。

  2. フィッシングメールの作成。これは、Mallas が非常に効果的な分野です。言語モデルは、自然言語理解を使用して、企業コミュニケーションのトーンやスタイルを完全に模倣した、ソーシャル エンジニアに最適な電子メールを生成できます。欺瞞を認識することが非常に複雑になることは明らかです。
    実際に、ある金融機関が被害を受けた事件が知られています。 フィッシングキャンペーン 非常に洗練された。生成された電子メールは数人の従業員を騙し、被害者のインフラストラクチャを侵害し、機密情報を流出させ、組織に重大な経済的損失を引き起こしました。電子メールが作成された際の高度さと品質の高さにより、どのフィッシング フィルターも電子メールを検出できませんでした。

  3. フィッシングサイトの作成。 Mallas のもう 1 つの用途は、フィッシング Web サイトの自動作成です。これらは、ログイン資格情報、財務情報、個人データなどの機密データを収集することを目的とした正規のサイトの模倣品です。この場合も、作成されたサイトの品質は非常に高いため、最も専門的なシステムでも認識できません。発生した事件の 1 つは、数千人の顧客を騙すことに成功した偽の電子商取引サイトに関するものです。このサイトは有名なオンライン小売業者とほぼ同じコピーで、SSL 証明書を備え、非常によく似たスタイルでした。支払い情報を入力したユーザーは、その後金融詐欺の被害に遭いました。

  4. ソーシャルエンジニアリング攻撃の自動化。 Mallas は攻撃を自動化することもできます ソーシャルエンジニアリング。これらのモデルは、大量のデータを分析し、人間の脆弱性を特定し、悪意のあるリンクをクリックしたり、ログイン資格情報を提供したりするなど、危険を伴う行為を被害者に実行させるスクリプトを生成できます。
    実際の例: キャンペーン中 スピアフィッシング、Malla は偽のソーシャル プロフィールを作成するために使用され、被害者と数週間にわたってやり取りし、信頼を得ました。最終的に、被害者は騙されてハッカーが管理する銀行口座に資金を送金させられました。プロセス全体が自動化されており、犯罪者による人的介入が最小限に抑えられています。

の出現 マラ サイバーセキュリティの状況を根本的に変えました。これらのサービスは、攻撃の有効性を高めるだけでなく、攻撃に対する防御をより困難にします。最も重大な影響は次のとおりです。

  • 攻撃の頻度と複雑さの増加: Mallas は、その数を大幅に増やすことで、複雑な攻撃を開始するのに必要な時間とリソースを削減します。

  • 攻撃品質の向上: LLM が現実的でパーソナライズされたコンテンツを生成できるため、攻撃自体の検出と阻止がますます困難になっています。パターンとシグネチャに基づく従来の防御システムは、こうした高度な脅威に直面すると失敗することがよくあります。

  • サイバー犯罪の侵入障壁を軽減: Mallas はサイバー犯罪の民主化を可能にします。それはどういう意味ですか?これは、技術的スキルが限られた犯罪者であっても、高度な攻撃を仕掛けることができ、その結果、潜在的な犯罪者の数が増加することを意味します。

  • 経済的および評判への影響: Mallas の使用によって攻撃が「単純化」されると、企業に重大な経済的損害が発生し、その結果、顧客の不信感につながる風評被害が生じる可能性があります。

に対抗するには、 マラ 次のような高度で多層的なアプローチが必要です。

  1. 防御AIの開発。まず第一に、対等な条件で戦う必要があるため、これらのサービスによって生成される攻撃を検出してブロックできる人工知能システムを開発する必要があります。 Defense AI は、行動パターン、ネットワーク トラフィックの異常、その他の侵害指標 (IoC) をリアルタイムで分析できるため、脅威に即座に対応できます。その一例は、電子メールの言語分析を通じて Malla によって生成されたフィッシングの試みを識別できる AI プラットフォームの使用に関するものです。コンセプトは、攻撃手法の進化速度を考慮して継続的に学習できるシステムを構築することです。これにより、検出能力が強化され、侵害のリスクが軽減されます。

  2. ユーザーの教育と意識向上。予防分野で常に重要と考えられているもう 1 つの戦略は、ユーザー教育です。ユーザーに新しい攻撃手法を認識させることは、ユーザーが危険信号を認識し、安全な行動を取れるようにするための基礎となります。この観点から見ると, 企業は、フィッシング攻撃のシミュレーションやその他の実践的な演習を含む、従業員向けの継続的なトレーニング プログラムを定義して提案することが重要です。

  3. 国際協力。今日、技術力を持つ者は政治力も持つことになるため、サイバー犯罪は世界的な現象であり、世界的な範囲に及ぶため、マラスの監視、特定、解体には国際協力が必要です。
    たとえば、ユーロポールとサイバーセキュリティ企業が共同で実施した作戦により、Malla サービスの運営に使用されるサーバーが押収され、犯罪ネットワークが解体され、責任者が逮捕されました。

  4. 規則や規制の整備。 LLM が悪意のある目的で使用されるのを防ぐために、LLM の使用を規制することも同様に重要です。高度な言語モデルの使用と開発を規制する法律を導入することは有益でしょう。

テクノロジーの波は止めることができず、誤って使用されることが多すぎます。私たちはすでにそれを予測できます マラ それらはますます洗練され、普及するでしょう。ますます検出が困難になるサイバー攻撃を作成する Mallas の能力は、次のような次世代言語モデルの成長と開発とともに飛躍的に増大します。 GPT-4. しかし、この新たな現象が存在し、成長し続けていることを認識すると、新しい防衛技術、ユーザー教育、国際協力への投資を通じてのみ緩和および削減できることも事実です。

リファレンス

https://arxiv.org/pdf/2401.03315

https://www.darkweb-guide.com/malla-demystifying-llm-integrated-malicious-services/