Thu. Mar 30th, 2023
    en flag
    nl flag
    et flag
    fi flag
    fr flag
    de flag
    he flag
    ja flag
    lv flag
    pl flag
    pt flag
    es flag
    uk flag

    Anmerkung der Redaktion: Die finnische Transport- und Kommunikationsagentur Traficom ist dafür verantwortlich, die Verfügbarkeit sicherer und kostengünstiger Transport- und Kommunikationsverbindungen und -dienste in Finnland sicherzustellen. Zusätzlich zu diesen Aufgaben fungiert Traficom auch als Autorität für Personen und Unternehmen in Fragen im Zusammenhang mit Lizenzen, Registrierung und Aufsicht.

    Vor Kurzem veröffentlichte Traficom einen Bericht des National Cyber Security Centre Finland (NCSC-FI) und der National Emergency Supply Agency (NESA) mit dem Titel „Die Sicherheitsbedrohung durch KI-gestützte Cyberangriffe“. Dieser Bericht untersucht die Bedrohung durch KI-gestützte Cyberangriffe, indem er den aktuellen Wissensstand zu diesem Thema zusammenfasst. Der Bericht könnte für Experten in den Bereichen Cybersicherheit, Informationsverwaltung und eDiscovery nützlich sein, die die Auswirkungen generativer KI auf die Verstärkung von Cyberangriffen erwägen.

    Informationen zur Cybersicherheit

    Künstliche Intelligenz wird die Zukunft von Cyberangriffen prägen

    Pressemitteilung, Zusammenfassung und Bericht

    KI-Sicherheitsinnovationen müssen mit Cyberangriffen Schritt halten

    Mit sicherer Pressemitteilung

    Der Einsatz künstlicher Intelligenz (KI) bei den heutigen Cyberangriffen ist zwar begrenzt, ein neuer Bericht warnt jedoch davor, dass sich dies in naher Zukunft ändern wird.

    Der Bericht, der gemeinsam von WithSecure™ (früher bekannt als F-Secure Business), der finnischen Transport- und Kommunikationsagentur (Traficom) und der finnischen National Emergency Supply Agency (NESA) erstellt wurde, analysiert aktuelle Trends und Entwicklungen in den Bereichen KI, Cyberangriffe und Bereiche, in denen sich diese beiden überschneiden. Es wird darauf hingewiesen, dass Cyberangriffe, bei denen KI eingesetzt wird, derzeit sehr selten sind und auf Social-Engineering-Anwendungen beschränkt sind (z. B. das Ausgeben einer Person) oder auf eine Weise eingesetzt werden, die von Forschern und Analysten nicht direkt beobachtet werden kann (wie Datenanalysen in Backend-Systemen).

    In dem Bericht wird jedoch hervorgehoben, dass die Quantität und Qualität der Fortschritte in der KI auf absehbare Zeit fortgeschrittenere Cyberangriffe wahrscheinlich gemacht haben.

    Dem Bericht zufolge sind Zielidentifikation, Social Engineering und Identitätswechsel die am stärksten gefährdeten KI-gestützten Bedrohungen von heute und es wird erwartet, dass sie sich innerhalb der nächsten zwei Jahre sowohl in Bezug auf Anzahl als auch Raffinesse weiter entwickeln werden.

    Innerhalb der nächsten fünf Jahre werden Angreifer wahrscheinlich KI entwickeln, die in der Lage ist, selbstständig Schwachstellen zu finden, Angriffskampagnen zu planen und durchzuführen, sich heimlich der Abwehr zu entziehen und Informationen aus kompromittierten Systemen oder Open-Source-Informationen zu sammeln/auszuwerten.

    „Obwohl KI-generierte Inhalte für Social-Engineering-Zwecke verwendet wurden, wurden KI-Techniken, die zur Steuerung von Kampagnen, zur Durchführung von Angriffsschritten oder zur Kontrolle der Malware-Logik entwickelt wurden, in freier Wildbahn immer noch nicht beobachtet. Diese Techniken werden zunächst von gut ausgestatteten, hochqualifizierten Gegnern, wie etwa nationalstaatlichen Gruppen, entwickelt werden „, sagte Andy Patel, Researcher bei WithSecure Intelligence. „Sobald neue KI-Techniken von raffinierten Gegnern entwickelt wurden, werden einige davon wahrscheinlich auf weniger qualifizierte Gegner übergehen und in der Bedrohungslandschaft an Bedeutung gewinnen.“

    Während aktuelle Abwehrmaßnahmen einige der Herausforderungen bewältigen können, die sich aus dem Einsatz von KI durch Angreifer ergeben, weist der Bericht darauf hin, dass sich die Verteidiger bei anderen anpassen und weiterentwickeln müssen. Neue Techniken sind erforderlich, um KI-basiertem Phishing entgegenzuwirken, das synthetisierte Inhalte, gefälschte biometrische Authentifizierungssysteme und andere Funktionen nutzt, die sich abzeichnen.

    Der Bericht geht auch auf die Rolle ein, die nichttechnische Lösungen wie Informationsaustausch, Ressourcenbeschaffung und Schulungen zum Sicherheitsbewusstsein bei der Bewältigung der Bedrohung durch KI-gestützte Angriffe spielen.

    „In die Sicherheit wird nicht so viel investiert oder weiterentwickelt wie in vielen anderen KI-Anwendungen, was letztendlich dazu führen könnte, dass Angreifer die Oberhand gewinnen“, sagte Samuel Marchal, Senior Data Scientist bei WithSecure. „Sie müssen bedenken, dass seriöse Organisationen, Entwickler und Forscher zwar die Datenschutzbestimmungen und lokalen Gesetze einhalten, Angreifer jedoch nicht. Wenn politische Entscheidungsträger die Entwicklung sicherer, zuverlässiger und ethischer KI-basierter Technologien erwarten, müssen sie darüber nachdenken, wie diese Vision in Bezug auf KI-gestützte Bedrohungen geschützt werden kann.“

    Über WithSecure™

    WithSecure™, ehemals F-Secure Business, ist der zuverlässige Partner für Cybersicherheit. IT-Dienstleister, MSSPs und Unternehmen — ebenso wie die größten Finanzinstitute, Hersteller und Tausende der weltweit fortschrittlichsten Kommunikations- und Technologieanbieter — vertrauen uns, wenn es um ergebnisorientierte Cybersicherheit geht, die ihren Betrieb schützt und ermöglicht.

    Unser KI-gestützter Schutz schützt Endgeräte und die Zusammenarbeit in der Cloud, und unsere intelligente Erkennung und Reaktion werden von Experten unterstützt, die Geschäftsrisiken identifizieren, indem sie proaktiv nach Bedrohungen suchen und Live-Angriffen begegnen. Unsere Berater arbeiten mit Unternehmen und technischen Herausforderern zusammen, um durch faktengestützte Sicherheitsberatung die Widerstandsfähigkeit zu stärken. Mit mehr als 30 Jahren Erfahrung in der Gebäudetechnik, die die Geschäftsziele erfüllt, haben wir unser Portfolio so aufgebaut, dass es mit unseren Partnern durch flexible Geschäftsmodelle wächst.

    Die WithSecure™ Corporation wurde 1988 gegründet und ist an der NASDAQ OMX Helsinki Ltd. notiert.

    Lesen Sie die ursprüngliche Ankündigung.

    Künstliche Intelligenz wird die Zukunft von Cyberangriffen prägen

    Zusammenfassung des Berichts von Traficom (finnische Verkehrs- und Kommunikationsagentur)

    Das Thema KI-gestützte Cyberangriffe tauchte vor etwa fünf Jahren auf und es gab Beispiele für generative KI-Modelle, mit denen sowohl Spear-Phishing-Angriffe als auch die Erkennung von Sicherheitslücken automatisiert werden können. Seitdem gab es von KI unterstützte Social-Engineering- und Identitätsdiebstahl-Angriffe, die zu finanziellen Verlusten in Millionenhöhe geführt haben. Die derzeitigen rasanten Fortschritte in der KI-Forschung in Verbindung mit den zahlreichen neuen Anwendungen, die sie ermöglicht, lassen uns davon ausgehen, dass KI-Techniken bald eingesetzt werden, um mehr der bei Cyberangriffen üblicherweise angewandten Schritte zu unterstützen. Aus diesem Grund hat die Idee von KI-gestützten Cyberangriffen in letzter Zeit sowohl in der Wissenschaft als auch in der Industrie zunehmend an Aufmerksamkeit gewonnen, und aus dem Grund, warum wir beginnen, mehr Forschung der Untersuchung zu widmen, wie KI zur Verbesserung von Cyberangriffen eingesetzt werden könnte.

    Eine Studie von Ende 2019 zeigte, dass über 80% der Entscheidungsträger über KI-gestützte Cyberangriffe besorgt waren, und prognostizierte, dass diese Arten von Angriffen in naher Zukunft zum Mainstream-Thema werden könnten. Aktuelle KI-Technologien unterstützen bereits viele frühe Phasen einer typischen Angriffskette. Fortgeschrittene Techniken des Social Engineering und der Informationsbeschaffung sind solche Beispiele. KI-gestützte Cyberangriffe stellen bereits eine Bedrohung dar, der Unternehmen nicht gewachsen sind. Diese Sicherheitsbedrohung wird nur zunehmen, wenn wir neue Fortschritte in der KI-Methodik beobachten und KI-Fachwissen immer breiter verfügbar wird.

    Dieser Bericht zielt darauf ab, die Sicherheitsbedrohung durch KI-gestützte Cyberangriffe zu untersuchen, indem der aktuelle Wissensstand zu diesem Thema zusammengefasst wird. KI-Technologie ist derzeit nur in der Lage, einige Angriffstaktiken zu verbessern, und sie wird wahrscheinlich nur von fortgeschrittenen Bedrohungsakteuren wie nationalstaatlichen Angreifern eingesetzt. In naher Zukunft werden die rasanten KI-Fortschritte durch Automatisierung, Tarnung, Social Engineering oder Informationsbeschaffung eine größere Bandbreite an Angriffstechniken verbessern und fördern. Daher gehen wir davon aus, dass KI-gestützte Angriffe in den nächsten fünf Jahren unter weniger qualifizierten Angreifern an Bedeutung gewinnen werden. Da herkömmliche Cyberangriffe veraltet sein werden, werden KI-Technologien, Fähigkeiten und Tools immer verfügbarer und erschwinglicher werden, was Angreifer dazu anregen wird, KI-gestützte Cyberangriffe zu nutzen.

    Die Cybersicherheitsbranche wird sich anpassen müssen, um mit dem Aufkommen von KI-gestützten Cyberangriffen fertig zu werden. Beispielsweise könnten biometrische Authentifizierungsmethoden aufgrund fortschrittlicher Techniken des Identitätswechsels, die durch KI ermöglicht werden, veraltet sein. Neue Präventions- und Erkennungsmechanismen müssen ebenfalls entwickelt werden, um KI-gestützten Cyberangriffen entgegenzuwirken. Mehr Automatisierungs- und KI-Technologie muss auch in Verteidigungslösungen eingesetzt werden, um der Geschwindigkeit, dem Ausmaß und der Raffinesse KI-gestützter Cyberangriffe gerecht zu werden. Dies könnte zu einem asymmetrischen Kampf zwischen Angreifern führen, die KI-Technologien uneingeschränkt nutzen, und Verteidigern, die durch die bevorstehende Verordnung über KI-Anwendungen eingeschränkt werden.

    Lesen Sie die ursprüngliche Ankündigung.

    Lesen Sie den ursprünglichen abstrakten Auszug.

    Vollständiger Bericht: Die Sicherheitsbedrohung durch KI-gestützte Cyberangriffe (PDF) — Mouseover to Scroll

    Von Matti Aksela, Samuel Marchal, Andrew Patel, Lina Rosenstedt und WithSecure

    TRAFICOM Die Sicherheitsbedrohung durch KI-gestützte Cyberangriffe 2022-12-12

    Originaldokument

    Zusätzliche Lektüre

    KI im Auge behalten? Nationale Strategien der Europäischen Union für künstliche Intelligenz

    Definition von Cyber Discovery? Eine Definition und ein Framework

    Quelle: ComplexDiscovery