Neue Phishing-Kampagne nutzt KI-Tools, um der Erkennung zu entgehen

Microsoft warnt davor, dass eine aktuelle Phishing-Kampagne KI-Technologie verwendet hat, um ihre Nutzlast zu verschleiern und Sicherheitsfilter zu umgehen.

„Der Angriff, der offenbar durch ein großes Sprachmodell (LLM) unterstützt wurde, verschleierte sein Verhalten innerhalb einer SVG-Datei und nutzte Geschäftsterminologie, um die böswillige Absicht zu verschleiern", schreiben die Forscher.

„Bei der Analyse der bösartigen Datei kam Microsoft Security Copilot zu dem Schluss, dass der Code aufgrund seiner Komplexität, Ausführlichkeit und mangelnden praktischen Nützlichkeit nicht etwas sei, was ein Mensch normalerweise von Grund auf neu schreiben würde."

Die Angreifer nutzten ein kompromittiertes E-Mail-Konto eines kleinen Unternehmens, um Phishing-E-Mails zu versenden, die als Benachrichtigungen zur Dateifreigabe getarnt waren. Wenn ein Benutzer die angehängte Datei öffnete, wurde er auf eine Webseite weitergeleitet, die darauf ausgelegt war, seine Anmeldedaten zu stehlen.

Microsoft merkt an: „Die Angreifer verwendeten eine Selbstadressierungstaktik, bei der die Absender- und Empfängeradressen übereinstimmten und die tatsächlichen Ziele im BCC-Feld versteckt waren, um grundlegende Erkennungsheuristiken zu umgehen."

Die Forscher warnen, dass diese Kampagne Teil eines größeren Trends ist, bei dem Angreifer KI-Tools einsetzen.

„Wie viele andere transformative Technologien wird KI sowohl von Verteidigern als auch von Cyberkriminellen eingesetzt", so Microsoft. „Während Verteidiger KI nutzen, um Bedrohungen in großem Umfang zu erkennen, zu analysieren und darauf zu reagieren, experimentieren Angreifer mit KI, um ihre eigenen Operationen zu verbessern, beispielsweise durch die Erstellung überzeugenderer Köder, die Automatisierung von Verschleierungsmaßnahmen und die Generierung von Code, der legitime Inhalte imitiert. Auch wenn die Kampagne in diesem Fall begrenzt war und sich in erster Linie gegen Organisationen mit Sitz in den USA richtete, ist sie doch ein Beispiel für einen allgemeinen Trend, dass Angreifer KI nutzen, um die Effektivität und Tarnung ihrer Operationen zu erhöhen. Dieser Fall unterstreicht auch die wachsende Notwendigkeit für Verteidiger, KI-gesteuerte Bedrohungen zu verstehen und zu antizipieren."

KnowBe4 befähigt Mitarbeiter, jeden Tag intelligentere Sicherheitsentscheidungen zu treffen. Über 70.000 Organisationen weltweit vertrauen auf die KnowBe4 HRM+ Plattform, um ihre Sicherheitskultur zu stärken und menschliche Risiken zu reduzieren.

Microsoft hat die Geschichte.