{"id":50895,"date":"2024-02-20T11:58:49","date_gmt":"2024-02-20T10:58:49","guid":{"rendered":"https:\/\/www.secuinfra.com\/?p=50895"},"modified":"2024-06-03T11:39:51","modified_gmt":"2024-06-03T09:39:51","slug":"kuenstliche-intelligenz-fluch-oder-segen-fuer-die-it-sicherheit","status":"publish","type":"post","link":"https:\/\/testing.secuinfra.com\/de\/techtalk\/kuenstliche-intelligenz-fluch-oder-segen-fuer-die-it-sicherheit\/","title":{"rendered":"K\u00fcnstliche Intelligenz: Fluch oder Segen f\u00fcr die IT-Sicherheit?"},"content":{"rendered":"<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_83 counter-flat ez-toc-counter ez-toc-white ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">[inhalt_uebersetzt]<\/p>\n<span class=\"ez-toc-title-toggle\"><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/testing.secuinfra.com\/de\/techtalk\/kuenstliche-intelligenz-fluch-oder-segen-fuer-die-it-sicherheit\/#Was_ist_die_Staerke_von_KI\" >Was ist die St\u00e4rke von KI?<\/a><\/li><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/testing.secuinfra.com\/de\/techtalk\/kuenstliche-intelligenz-fluch-oder-segen-fuer-die-it-sicherheit\/#Wie_Angreifer_KI_nutzen_koennen\" >Wie Angreifer KI nutzen k\u00f6nnen<\/a><\/li><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/testing.secuinfra.com\/de\/techtalk\/kuenstliche-intelligenz-fluch-oder-segen-fuer-die-it-sicherheit\/#Schlagkraeftigere_Malware_und_Brute-Force-Attacken\" >Schlagkr\u00e4ftigere Malware und Brute-Force-Attacken<\/a><\/li><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/testing.secuinfra.com\/de\/techtalk\/kuenstliche-intelligenz-fluch-oder-segen-fuer-die-it-sicherheit\/#Offensive_KI_spuert_Zero-Day-Exploits_auf\" >Offensive KI sp\u00fcrt Zero-Day-Exploits auf<\/a><\/li><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/testing.secuinfra.com\/de\/techtalk\/kuenstliche-intelligenz-fluch-oder-segen-fuer-die-it-sicherheit\/#Defensive_KI-Strategien_als_Gegenmassnahme\" >Defensive KI-Strategien als Gegenma\u00dfnahme<\/a><\/li><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/testing.secuinfra.com\/de\/techtalk\/kuenstliche-intelligenz-fluch-oder-segen-fuer-die-it-sicherheit\/#Ohne_den_Faktor_Mensch_geht_es_nicht\" >Ohne den Faktor Mensch geht es nicht<\/a><\/li><li class='ez-toc-page-1'><a class=\"ez-toc-link ez-toc-heading-7\" href=\"https:\/\/testing.secuinfra.com\/de\/techtalk\/kuenstliche-intelligenz-fluch-oder-segen-fuer-die-it-sicherheit\/#Fazit_Chance_oder_Herausforderung\" >Fazit: Chance oder Herausforderung?<\/a><\/li><\/ul><\/nav><\/div>\n\n<p class=\"wp-block-paragraph\">K\u00fcnstliche Intelligenz ist ein viel diskutiertes Thema. Sie bietet gro\u00dfe Chancen, birgt offensichtlich aber auch Risiken. Und auch in Bezug auf die IT-Sicherheit hat sie zwei Gesichter. Denn <strong>KI-basierte Methoden<\/strong> eignen sich sowohl f\u00fcr Angriffe als  auch zur Verteidigung. Unbestritten ist jedoch, dass K\u00fcnstliche Intelligenz schon bald eine Schl\u00fcsselrolle in der Cybersicherheit spielen wird.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Was_ist_die_Staerke_von_KI\"><\/span><strong>Was ist die St\u00e4rke von KI?<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Einfach erkl\u00e4rt soll K\u00fcnstliche Intelligenz Computer in die Lage versetzen, wie ein Mensch zu lernen und zu denken. Aus Sicht der IT-Sicherheit ist dabei vor allem die Teildisziplin maschinelles Lernen interessant. Denn damit lassen sich Verfahren entwickeln, die Muster und Regelm\u00e4\u00dfigkeiten in Daten erkennen und Zusammenh\u00e4nge herstellen. Durch diese F\u00e4higkeit k\u00f6nnen Abwehrsysteme ein generalisiertes Verst\u00e4ndnis entwickeln, um Entscheidungen oder Vorhersagen zu treffen. Wir Security-Experten erhalten dadurch einen verhaltensbasierten Blick auf die von uns \u00fcberwachte Umgebung, was gerade in dynamischen und <strong>komplexen Bedrohungsszenarien<\/strong> von gro\u00dfem Wert ist. Das gilt umso mehr, als logischerweise auch die Angreifer KI-Methoden einsetzen.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Wie_Angreifer_KI_nutzen_koennen\"><\/span><strong>Wie Angreifer KI nutzen k\u00f6nnen<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Den Cyber-Kriminellen er\u00f6ffnet die K\u00fcnstliche Intelligenz vielf\u00e4ltige Anwendungsm\u00f6glichkeiten, um ihren kriminellen Vorhaben nachzugehen. So eignen sich offensive KI-Methoden beispielsweise f\u00fcr Phishing, Malware oder Brute Force-Attacken. Mit Hilfe unterliegender Technologien, auf denen ChatGPT und weitere KI-Tools aufsetzen, lassen sich Phishing-E-Mails noch pers\u00f6nlicher und \u00fcberzeugender gestalten. In Kombination mit <strong>Social Engineering<\/strong> k\u00f6nnen dar\u00fcber hinaus bestimmte User noch gezielter angesprochen und zur gew\u00fcnschten Interaktion verleitet werden. In der Fachliteratur sind bereits zahlreiche offensive KI-Methoden beschrieben worden, die Technologien wie Long-Short-Term Memory Networks (LSTM), Generative Adversarial Networks (GANs) oder so genannte Transformer f\u00fcr unterschiedliche Einsatzszenarien verwenden.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Schlagkraeftigere_Malware_und_Brute-Force-Attacken\"><\/span><strong>Schlagkr\u00e4ftigere Malware und Brute-Force-Attacken<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Eine weitere, in der Fachliteratur beschriebene Angriffsmethode ist KI-basierte Malware. Auch wenn die Komplexit\u00e4t des Schadcodes noch \u00fcberschaubar ist, zeichnet sich das dadurch gesteigerte Gefahrenpotential ab. Dies gilt insbesondere in Bezug auf polymorphe Schadprogramme, die ihren Code bei jedem Angriff ver\u00e4ndern und dadurch nicht von signaturbasierten Schutzmechanismen erkannt werden. Au\u00dferdem rechnet die Fachwelt mit wirkungsvolleren <strong>Brute-Force-Angriffen<\/strong>, die intelligente Testverfahren nutzen, um Passw\u00f6rter schneller zu erraten. Dabei kommen beispielsweise <strong>selbstlernende Algorithmen <\/strong>und eine Kennwortdatenbank aus fr\u00fcheren Angriffen zum Einsatz, um sich in k\u00fcrzerer Zeit unerlaubt Zugriff auf Netzwerke und IT-Systeme zu verschaffen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Wie bereits an diesen wenigen Beispielen erkennbar ist, zeichnet sich ein genereller Trend von zunehmenden Einsatzm\u00f6glichkeiten der KI f\u00fcr Angriffszwecke ab, wobei sich auch viele bekannte Angriffsarten durch Kombination mit KI-Methoden effektiver und effizienter ausf\u00fchren lassen.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Offensive_KI_spuert_Zero-Day-Exploits_auf\"><\/span><strong>Offensive KI sp\u00fcrt Zero-Day-Exploits auf<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Versch\u00e4rft werden k\u00f6nnte die Bedrohungslage weiterhin durch offensive KI-Techniken, die ihre Ziele mehr oder weniger autonom verfolgen. Wie ein selbstfahrendes Auto, das eigenst\u00e4ndig seinen Weg von A nach B findet, k\u00f6nnten sich intelligente Schadprogramme auf der Suche nach Schwachstellen durch die digitale Landschaft bewegen. Indem sie nicht nur die gegebene Datenwelt neu interpretieren, k\u00f6nnten sie selbstst\u00e4ndig bisher <strong>unbekannte Sicherheitsl\u00fccken<\/strong>, sogenannte Zero-Day-Exploits, entdecken und f\u00fcr kriminelle Zwecke ausnutzen. Auch auf diese versch\u00e4rfte Bedrohungslage m\u00fcssen sich Unternehmen einstellen.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Defensive_KI-Strategien_als_Gegenmassnahme\"><\/span><strong>Defensive KI-Strategien als Gegenma\u00dfnahme<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Angesichts der neuen M\u00f6glichkeiten durch KI und der riesigen Bedrohungsdimension liegt es auf der Hand, dass K\u00fcnstliche Intelligenz als defensives Werkzeug zur Verbesserung der Erkennungs- und Abwehrf\u00e4higkeit von Unternehmen an Bedeutung gewinnen wird. Mehr noch: \u00dcber kurz oder lang werden sich defensive KI-Methoden als alternativlos erweisen, wenn sich unsere Kunden gegen hochentwickelte Angriffe wappnen wollen. Dabei bauen auch defensive KI-Methoden auf der F\u00e4higkeit auf, Muster und Anomalien in gro\u00dfen Datenmengen zu erkennen und daraus zu lernen. Mit dieser Unterst\u00fctzung k\u00f6nnen wir aber nicht nur Phishing-Versuche leichter erkennen oder <strong>polymorphe Schadprogramme<\/strong> adressieren. Vielmehr er\u00f6ffnet uns der konstruktive Einsatz offensiver KI-Methoden ein spannendes Anwendungsfeld. Beispielsweise, um Schwachstellen in der Infrastruktur zu identifizieren und damit verbundene Risiken fr\u00fchzeitig zu beseitigen.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Ohne_den_Faktor_Mensch_geht_es_nicht\"><\/span><strong>Ohne den Faktor Mensch geht es nicht<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Zum Gl\u00fcck f\u00fcr uns Sicherheitsexperten ist maschinelles Lernen gut erforscht, so dass wir unseren Werkzeugkasten bereits heute sinnvoll erg\u00e4nzen k\u00f6nnen. Nichtsdestotrotz ist defensive KI lediglich ein Baustein im Gesamtinstrumentarium, mit dem wir der neuen Bedrohungslage mit offensiver KI begegnen. Dabei spielt auch eine Rolle, dass die <strong>defensiven KI-Verfahren<\/strong> meist noch pr\u00e4ziser werden m\u00fcssen, damit sie nicht zu viele falsche Alarme verursachen. F\u00fcr einen wirksamen Schutz ist vielmehr das Kombinieren von KI mit regelbasierten Erkennungsmethoden \u2013 und vor allem menschlicher Expertise \u2013 erforderlich. Denn letztlich entscheiden die Erfahrung und das pers\u00f6nliche Urteilsverm\u00f6gen dar\u00fcber, ob es sich bei einem erkannten Vorgang tats\u00e4chlich um einen Angriff handelt oder nicht. KI kann wertvolle Interpretationshinweise liefern, aber ohne signaturbasierte Erkennung, durchdachte Konzepte und Prozesse sowie die Erfahrung der Analysten im <strong>Security Operations Center (SOC)<\/strong> w\u00fcrde eine Security-Strategie definitiv zu kurz greifen.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Fazit_Chance_oder_Herausforderung\"><\/span><strong>Fazit: Chance oder Herausforderung?<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Die Antwort auf die Frage, ob KI der IT-Sicherheit mehr n\u00fctzt oder schadet, geht am Thema vorbei. KI ist gekommen, um zu bleiben. W\u00e4hrend Angreifer fortgeschrittene KI-Methoden nutzen, um ihre Angriffe zu verfeinern, bieten uns defensive KI-Technologien neue M\u00f6glichkeiten, diese Bedrohungen effektiv zu erkennen und zu bek\u00e4mpfen. Der k\u00fcnftige Standard in der Cyberabwehr wird daher ein umfassender Sicherheitsansatz mit integrierten KI-Technologien sein.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Vorher gibt es jedoch etwas Wichtiges zu beachten: Bevor ein Unternehmen mit dem Aufbau eines neuen Sicherheitsstandards mit integrierten KI-Methoden beginnen kann, sollte es unbedingt Transparenz \u00fcber die eigene Infrastruktur hergestellt haben. Ein bew\u00e4hrter Ansatz hierf\u00fcr besteht darin, ein <strong>Security Information and Event Management (SIEM)<\/strong> System zu implementieren. Indem es Ereignisse aus unterschiedlichsten Datenquellen konsolidiert, schafft das SIEM eine valide Datenbasis f\u00fcr defensive KI-Methoden. Erst dann k\u00f6nnen Verhaltensmuster und Gesetzm\u00e4\u00dfigkeiten \u00fcberhaupt im ganzheitlichen Kontext der eigenen Umgebung sichtbar werden, so dass sich die Verfahren ein Gesamtbild machen und davon lernen k\u00f6nnen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Sie m\u00f6chten die Voraussetzung f\u00fcr den Einsatz defensiver KI-Methoden schaffen? Unser <strong>SIEM<\/strong> schafft die ideale Grundlage daf\u00fcr. Jetzt <a href=\"https:\/\/testing.secuinfra.com\/cyber-defense-solutions\/siem\/\" target=\"_blank\" rel=\"noreferrer noopener\">hier<\/a> mehr erfahren.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>K\u00fcnstliche Intelligenz ist ein viel diskutiertes Thema. Sie bietet gro\u00dfe Chancen, birgt offensichtlich aber auch Risiken. Und auch in Bezug auf die IT-Sicherheit hat sie zwei Gesichter.<\/p>\n","protected":false},"author":13,"featured_media":50896,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[67,66],"tags":[9],"dpc_coauthors":[],"class_list":["post-50895","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-siem","category-techtalk","tag-it-security"],"acf":[],"_links":{"self":[{"href":"https:\/\/testing.secuinfra.com\/de\/wp-json\/wp\/v2\/posts\/50895","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/testing.secuinfra.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/testing.secuinfra.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/testing.secuinfra.com\/de\/wp-json\/wp\/v2\/users\/13"}],"replies":[{"embeddable":true,"href":"https:\/\/testing.secuinfra.com\/de\/wp-json\/wp\/v2\/comments?post=50895"}],"version-history":[{"count":0,"href":"https:\/\/testing.secuinfra.com\/de\/wp-json\/wp\/v2\/posts\/50895\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/testing.secuinfra.com\/de\/wp-json\/wp\/v2\/media\/50896"}],"wp:attachment":[{"href":"https:\/\/testing.secuinfra.com\/de\/wp-json\/wp\/v2\/media?parent=50895"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/testing.secuinfra.com\/de\/wp-json\/wp\/v2\/categories?post=50895"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/testing.secuinfra.com\/de\/wp-json\/wp\/v2\/tags?post=50895"},{"taxonomy":"dpc_coauthors","embeddable":true,"href":"https:\/\/testing.secuinfra.com\/de\/wp-json\/wp\/v2\/dpc_coauthors?post=50895"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}