{"id":15812,"date":"2026-06-25T15:18:14","date_gmt":"2026-06-25T13:18:14","guid":{"rendered":"https:\/\/blog.prif.org\/?p=15812"},"modified":"2026-06-29T11:19:51","modified_gmt":"2026-06-29T09:19:51","slug":"die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern","status":"publish","type":"post","link":"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/","title":{"rendered":"Die dunkle Seite neuer KI-Sprachmodelle: Wie Large Language Models die Cybersicherheit herausfordern"},"content":{"rendered":"<p><strong>Die Diskussion um die Gefahren aktueller KI-basierter Large Language Models (LLMs) f\u00fcr unsere Cybersicherheit hat j\u00fcngst nach den Ver\u00f6ffentlichungen des neuesten Modells der Firma Anthropic, Claude Mythos, einen enormen Schub erhalten. Zun\u00e4chst aus (mutma\u00dflicher) Angst vor Missbrauch nicht ver\u00f6ffentlicht, mit Sicherheitsvorkehrungen dann doch online, in k\u00fcrzester Zeit von der US-Regierung unter Exportverbot gestellt und wieder vom Netz genommen \u2013 das Ringen um Mythos zeigt die Bedeutung von LLMs in der Cybersicherheit exemplarisch auf. Denn solche neuesten KI-Werkzeuge drohen bereits bestehende Angriffsformen zu skalieren, zu beschleunigen und zu personalisieren. Das verschafft Angreifern einen erheblichen Vorteil und setzt die Defensive unter Druck.<\/strong><\/p>\n<p><span data-contrast=\"auto\">Die Entwicklung k\u00fcnstlicher Intelligenz schreitet in atemberaubendem Tempo voran. Ein Bereich sind neueste Versionen sogenannter Large Language Models (LLMs)<\/span><a href=\"https:\/\/www.edps.europa.eu\/data-protection\/technology-monitoring\/techsonar\/large-language-models-llm_en\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">1<\/span><\/sup><\/a><span data-contrast=\"auto\">. Diese sind inzwischen nicht nur erstaunlich gut darin, Rechtschreib- oder grammatikalische Fehler in bestehenden Texten zu identifizieren, sondern auch eigene Texte zu verfassen. Neueste generative KI-Modelle beziehen sich auch nicht mehr nur auf Wissen, das bis zu einem bestimmten Stichtag trainiert wurde, sondern sind in der Lage, selbstst\u00e4ndig neue Online-Quellen zu erschlie\u00dfen und neueste Entwicklungen zu ber\u00fccksichtigen (sogenanntes RAG, Retrieval-Augmented\u00a0Generation)<\/span><a href=\"https:\/\/www.ibm.com\/think\/topics\/retrieval-augmented-generation\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">2<\/span><\/sup><\/a><span data-contrast=\"auto\">. Die meisten Nutzenden benutzen LLMs zur Optimierung ihrer eigenen Schreibarbeit oder zur Unterst\u00fctzung bei der Programmierung. Das birgt schon in sich Gefahren, z.B. wenn die\u00a0KI Halluzinationen\u00a0in den Text einbaut oder umgangssprachliche Formulierungen in Programmcode umwandelt (sogenanntes\u00a0vibe\u00a0coding)<\/span><a href=\"https:\/\/www.ibm.com\/think\/topics\/vibe-coding\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">3<\/span><\/sup><\/a><span data-contrast=\"auto\">, ohne dass die Nutzenden den Code verstehen und so Sicherheitsl\u00fccken und Fehler \u00fcbersehen. Diese Probleme lassen sich aber durch menschliche Kontrolle minimieren. Anders sieht es aus, wenn KI durch b\u00f6swillige Akteure bewusst eingesetzt wird, um Cybersicherheit auszuhebeln. Hier kann der Einsatz von KI zu einer neuen Dimension an Cyberbedrohungen f\u00fchren.\u00a0 <\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<p><span data-contrast=\"auto\">B\u00f6sartige Cyberaktivit\u00e4ten sind kein neues Ph\u00e4nomen und decken eine weite Bandbreite ab: Sie reichen von \u201eHacktivism\u201c, dem \u00dcberlasten von Servern oder der \u201eVerschandelung\u201c von Webseiten mit politischen Parolen, \u00fcber Cyberkriminalit\u00e4t, Cyberspionage bis hin zu Cyberterrorismus, oder gar milit\u00e4rischen Cyberoperationen.<\/span><a href=\"https:\/\/eunpdc-elearning.netlify.app\/lu-19\/what-is-cyber-warfare\/\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">4<\/span><\/sup><\/a><span data-contrast=\"auto\">\u00a0W\u00e4hrend in den ersten beiden F\u00e4llen meist nichtstaatliche Akteure aktiv sind, sind es in den anderen Bereichen vor allem staatliche Dienste. Trotzdem k\u00f6nnen auch\u00a0Hacktivism\u00a0oder Cyberkriminalit\u00e4t Teil einer hybriden Kriegsf\u00fchrung sein, die darauf zielt, Gesellschaften zu destabilisieren.\u00a0<\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<p><span data-contrast=\"auto\">Gemein ist den meisten Cyberoperationen, dass sie vorhandenes Wissen um die Schwachstellen der IT-Infrastruktur der Gegenseite ausnutzen. Durch Schwachstellen oder Fehler im Softwarecode von Betriebssystemen oder Anwendungssoftware k\u00f6nnen Viren eingeschleust oder Trojaner und andere Schadsoftware installiert werden.<\/span><\/p>\n<div class=\"su-box su-box-style-default\" id=\"\" style=\"border-color:#005086;border-radius:3px;max-width:none\"><div class=\"su-box-title\" style=\"background-color:#2983b9;color:#ffffff;border-top-left-radius:1px;border-top-right-radius:1px\">Der staatliche Umgang mit Sicherheitsl\u00fccken<\/div><div class=\"su-box-content su-u-clearfix su-u-trim\" style=\"border-bottom-left-radius:1px;border-bottom-right-radius:1px\">Sicherheitsl\u00fccken sind im Bereich der Spionage und milit\u00e4rischer Cyberoperationen ein besonders brisantes Feld. Sicherheitsdienste \u201ehorten\u201c in der Regel das Wissen um Sicherheitsl\u00fccken in bekannten Anwendungen oder Betriebssystemen, um diese im Bedarfsfall selbst nutzen zu k\u00f6nnen. Solche sogenannten \u201eZero Days\u201c, also Sicherheitsl\u00fccken, die den Softwareherstellern selbst \u201enull Tage\u201c bekannt sind, sind wichtige Einfalltore, wenn es um die Infiltration bestehender Systeme geht. Denn hat selbst der Hersteller dieser Systeme kein Wissen um die L\u00fccke, kann das System auch nicht durch einen Patch gesichert werden. Wird der \u201eEinbruch\u201c er- und damit bekannt, ist der Zero Day \u201everbrannt\u201c.<a href=\"https:\/\/www.prif.org\/spotlight0826-fn\" target=\"_blank\" rel=\"noopener\">*<\/a><\/p>\n<p>Die dahinterliegende Logik der Dienste ist der \u2013 m\u00f6glicherweise f\u00e4lschliche \u2013 Glaube, exklusiv \u00fcber einen Zero Day zu verf\u00fcgen. Es wird also die M\u00f6glichkeit, das Wissen um die Sicherheitsl\u00fccke auszunutzen zu k\u00f6nnen gegen den allgemeinen Nutzen, den eine Bekanntgabe beim Hersteller und den darauf folgenden Patch, abgewogen \u2013 eine Abw\u00e4gung, der in den USA als Vulnerabilities Equities Process bekannt ist und bislang meist zuungunsten der Bekanntgabe ausfiel. Zumindest punktuell wurde aber auch anders gehandelt: Es besteht die Vermutung, dass die USA die Ukraine im Vorfeld des Angriffes 2022 \u00fcber Sicherheitsl\u00fccken informierten, sodass der Schaden durch russische Cyberangriffe auf ukrainische milit\u00e4rische IT-Infrastruktur auf ein ertr\u00e4gliches Ma\u00df reduziert werden konnte.<\/div><\/div>\n<p><span data-contrast=\"auto\">Der enorm schnelle Fortschritt bei LLMs bietet b\u00f6swilligen Akteuren aber auf ganz verschiedenen Ebenen neue bzw. deutlich verbesserte M\u00f6glichkeiten, die bislang in der \u00f6ffentlichen Diskussion \u00fcber Cyber-Resilienz (zu) wenig Beachtung finden. Denn der Einsatz von LLMs erweitert das Arsenal und die Optionen b\u00f6swilliger Angriffe erheblich.<\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<h2 aria-level=\"2\"><span data-contrast=\"none\">Social Engineering<\/span><\/h2>\n<p><span data-contrast=\"auto\">Auf der ersten Ebene erm\u00f6glicht der gezielte Einsatz von textgenerierender\u00a0KI Phishing-Mails zu verfassen, die sich in Ton und Stil qualitativ erheblich von den Mails unterscheiden, die Nutzer*innen in der Vergangenheit in ihrem Posteingang (und idealerweise im Spam-Ordner) fanden. Waren die Mails in der Vergangenheit oft durch schlechte Sprache oder inhaltliche Fehler relativ leicht zu identifizieren, sind zumindest Mails, die vorgeben von Institutionen wie Banken oder einem Versandhandel zu kommen, von echten Mails oft nur noch durch den Kontext zu erkennen. Trainiert man LLMs individuell nach (sogenanntes Finetuning)<\/span><a href=\"https:\/\/www.ibm.com\/think\/topics\/fine-tuning\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">5<\/span><\/sup><\/a><span data-contrast=\"auto\">, wird es m\u00f6glich, individuelle Schreibstile nachzuahmen, z.B. den Ton eines Freundes oder den der Vorgesetzten. Wird eine Mail f\u00e4lschlicherweise einer vertrauensw\u00fcrdigen Quelle zugeordnet, ist der Klick auf den Anhang nicht mehr weit. Dies gilt neben Text inzwischen aber auch f\u00fcr die Imitation von Stimmen, Bildern oder Videos. Mit nur wenigen Proben ist es heute kein Problem, Stimmen so zu synthetisieren, dass die Identifikation einer F\u00e4lschung schwerf\u00e4llt.<\/span><a href=\"https:\/\/www.prif.org\/spotlight0826-fn\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">6<\/span><\/sup><\/a><span data-contrast=\"auto\">\u00a0Folgt\u00a0einer Mail z.B. noch ein Anruf der vermeintlichen Chefin, die darum bittet, sich den Anhang sofort anzusehen, sinkt die Schwelle zum Fehlklick noch einmal deutlich.\u00a0<\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<p><span data-contrast=\"auto\">KI k\u00f6nnte b\u00f6swilligen Akteuren auch dabei helfen, diejenigen zu identifizieren, die besonders anf\u00e4llig f\u00fcr T\u00e4uschungsman\u00f6ver sind, z.B. durch die Auswertung von sozialen Netzwerken.<\/span><a href=\"https:\/\/www.crowdstrike.com\/en-us\/cybersecurity-101\/social-engineering\/ai-social-engineering\/\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">7<\/span><\/sup><\/a><span data-contrast=\"auto\">\u00a0Pers\u00f6nliche Informationen k\u00f6nnen gezielt gesammelt werden, um das Vertrauen potenzieller Ziele zu erschleichen. Personen, die hier generell geneigter sind, Beitr\u00e4ge ohne Pr\u00fcfung weiterzugeben oder sich anderweitig als \u201evertrauensselig\u201c herausstellen, k\u00f6nnen als besonders lohnende Ziele herausgefiltert werden. In diesen Szenarien des\u00a0Social\u00a0Engineering sind das Angriffsziel Menschen, die als das schw\u00e4chste Glied einer IT-Sicherheitskette ausgenutzt werden.<\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<h2 aria-level=\"2\"><span data-contrast=\"none\">Malwareentwicklung<\/span><\/h2>\n<p><span data-contrast=\"auto\">Ein weiteres Feld, in dem KI gerade besonders gro\u00dfe Fortschritte macht, ist das der Softwareentwicklung. Immer mehr Softwareentwickler nutzen Sprachmodelle, um Programmcode zu entwickeln, auf Fehler pr\u00fcfen zu lassen oder bestehenden\u00a0Code\u00a0um neue Funktionen zu erg\u00e4nzen.<\/span><a href=\"https:\/\/www.science.org\/doi\/10.1126\/science.adz9311\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">8<\/span><\/sup><\/a><span data-contrast=\"auto\">\u00a0Auch wenn es noch umstritten ist, wie sehr der Einsatz bei der Programmierung die Effizienz der Programmierenden steigert<\/span><a href=\"https:\/\/metr.org\/blog\/2026-02-24-uplift-update\/\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">9<\/span><\/sup><\/a><span data-contrast=\"auto\">, oder in welchem Umfang die Nutzung von KI neue Sicherheitsl\u00fccken generiert,<\/span><a href=\"https:\/\/www.prif.org\/spotlight0826-fn\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">10<\/span><\/sup><\/a><span data-contrast=\"auto\">\u00a0zeigt sich trotzdem, dass jede neue Iteration von Sprachmodellen einen zus\u00e4tzlichen Vorteil bietet. Entsprechend ist es auch nur konsequent, dass die Programmierer*innen von Schadsoftware KI nutzen. Zwar haben die am Markt g\u00e4ngigen\u00a0ChatBots\u00a0Sicherheitsmechanismen und Richtlinien vorgegeben, die verhindern sollen, dass die Programmierung sch\u00e4dlicher oder illegaler Inhalte, wie Schadsoftware oder Pornographie unterst\u00fctzt wird. Diese k\u00f6nnen nach Einsch\u00e4tzung von\u00a0Sicherheitsexpert*innen aber mit entsprechendem Aufwand umgangen werden.<\/span><span data-contrast=\"auto\"><a href=\"https:\/\/www.golem.de\/news\/abliteration-entfernung-von-sicherheitsmechanismen-in-ki-modellen-immer-einfacher-2605-209026.html\" target=\"_blank\" rel=\"noopener\"><sup>11<\/sup><\/a>\u00a0<\/span><span data-contrast=\"auto\">Mindestens kann KI dabei helfen, technische Erkl\u00e4rungen \u00fcber die Wirkweise von Malware zu bekommen oder bekannten Schadcode zu analysieren. KI kann so einerseits helfen, neuen Schadcode zu identifizieren, gleichzeitig aber auch dazu beitragen, bestehenden Schadcode so zu ver\u00e4ndern, dass er durch die Sicherheitsnetze bestehender Anti-Viren-Software schl\u00fcpft, oder gar sich selbst ver\u00e4ndernden Code erzeugen, dessen Entdeckung noch einmal schwieriger wird.\u00a0<\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<h2 aria-level=\"2\"><span data-contrast=\"none\">Die Identifikation von Sicherheitsl\u00fccken<\/span><\/h2>\n<p><span data-contrast=\"auto\">Besonders brisant ist\u00a0die eigentlich\u00a0n\u00fctzliche F\u00e4higkeit aktueller Sprachmodelle, bestehenden Code auf Sicherheitsl\u00fccken hin zu analysieren. Werden Softwareentwickler*innen \u00fcber L\u00fccken in ihrem Code informiert, k\u00f6nnen sie diese durch nachtr\u00e4gliche \u00c4nderungen, Patches, beheben. Wichtig ist, dass das Wissen um die L\u00fccke nicht vor der Reparatur an die \u00d6ffentlichkeit kommt, weil sonst ein Zeitfenster der Verwundbarkeit besteht.<\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<p><span data-contrast=\"auto\">Im April dieses Jahres machte in IT-Kreisen die Nachricht die Runde, die amerikanische Firma Anthropic habe die neueste Variante ihres Sprachmodells Claude, die Version Mythos, bewusst nicht \u00f6ffentlich gemacht, weil das System zu gut darin sei, Schwachstellen in Softwarecode zu finden. So wurde berichtet, das System habe \u201ein k\u00fcrzester Zeit Tausende zuvor unbekannter Schwachstellen in g\u00e4ngigen Betriebssystemen und Browsern gefunden\u201c, zum Teil in Code, der seit Jahren oder gar Jahrzehnten im Einsatz war.<\/span><sup><a href=\"https:\/\/www.security-insider.de\/claude-mythos-anthropic-zaesur-cybersicherheit-kipker-a-f987e7d54801adb58cd67b4c51407cea\/\" target=\"_blank\" rel=\"noopener\"><span data-contrast=\"auto\">12<\/span><span data-contrast=\"auto\">\u00a0<\/span><\/a><\/sup><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<p><span data-contrast=\"auto\">Anthropic setzte deshalb im April 2026 \u201eGlasswing\u201c auf, eine Kollaboration mit ca. 50 bedeutenden Internetfirmen, darunter Amazon Web Services, Anthropic, Apple, Broadcom, Cisco,\u00a0CrowdStrike, Google,\u00a0JPMorganChase,\u00a0the\u00a0Linux\u00a0Foundation, Microsoft, NVIDIA, oder Palo Alto Networks, zur gemeinsamen Identifizierung kritischer Sicherheitsl\u00fccken.<\/span><a href=\"https:\/\/www.anthropic.com\/glasswing\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">13<\/span><\/sup><\/a><span data-contrast=\"auto\"><sup>\u00a0<\/sup>Etwas mehr als einen Monat sp\u00e4ter verk\u00fcndete Anthropic, die Kollaboration habe bislang \u201cmore\u00a0than\u00a0ten\u00a0thousand\u00a0high-\u00a0or\u00a0critical-severity\u00a0vulnerabilities\u00a0across\u00a0the\u00a0most\u00a0systemically\u00a0important\u00a0software\u00a0in\u00a0the\u00a0world\u201d identifiziert.<\/span><a href=\"https:\/\/www.anthropic.com\/research\/glasswing-initial-update\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">14<\/span><\/sup><\/a><span data-contrast=\"auto\">\u00a0Alle Beteiligten konzentrierten sich jetzt darauf, Patches bereitzustellen. Auch wenn die Zahlen bislang nicht unabh\u00e4ngig \u00fcberpr\u00fcft werden konnten und nicht sicher ist, ob wirklich jede gefundene L\u00fccke tats\u00e4chlich die zugeschriebene Sicherheitsbedeutung hat, ist trotzdem klar, dass sich die Geschwindigkeit, mit der KI-Modelle Schwachstellen identifizieren k\u00f6nnen, drastisch gesteigert hat. Selbst Unternehmen wie z.B. Microsoft haben u.U. Probleme, einzelne Patches zeitnah nach der Ver\u00f6ffentlichung einer Sicherheitsl\u00fccke bereitzustellen. Bis die Patches dann auf allen, z.T. Millionen betroffenen Systemen ganz unterschiedlicher Konfiguration verbreitet und installiert sind, dauert es\u00a0ebenfalls \u2013 in der Praxis oft Wochen oder gar Monate und Jahre \u2013 eine Verz\u00f6gerung, die dann von Angreifern ausgenutzt werden kann. Eine KI, die Sicherheitsl\u00fccken in schneller Folge finden kann, \u00fcberlastet also diejenigen massiv, die dann f\u00fcr die neue Sicherheit sorgen sollen. Paradoxerweise ist das Problem nicht nur f\u00fcr \u00e4ltere Systeme, f\u00fcr die der Support unter Umst\u00e4nden eingestellt wurde, Expert*innen f\u00fcr alte Programmiersprachen fehlen oder bei denen die Herstellerfirmen nicht mehr existieren relevant. Auch Open-Source Code, also offen zug\u00e4nglichen Code, der von Freiwilligen weiterentwickelt wird und der einen erheblichen Anteil am Betrieb des Internets hat, ist betroffen. Denn w\u00e4hrend Firmen ihren Code noch durch Geheimhaltung sch\u00fctzen k\u00f6nnen, liegt Open Source Code offen und kann unproblematisch analysiert werden. Erschwert wird die Situation dadurch, dass es keine, oder zumindest keine zentrale Instanz gibt, die dann f\u00fcr das Patching der der Allgemeinheit zur Verf\u00fcgung gestellten Codes verantwortlich ist und das Verbreiten der Patches noch einmal schwieriger ist. Die Tatsache, dass der Code dezentral und offen weiterentwickelt wird, kann sich nun als Schwachstelle erweisen.<\/span><a href=\"https:\/\/www.prif.org\/spotlight0826-fn\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">15<\/span><\/sup><\/a><span data-contrast=\"auto\">\u00a0Auch erweist es sich als, euphemistisch gesprochen, ung\u00fcnstig, dass alte Software h\u00e4ufig in kritischen Infrastrukturen, z.B. Kraftwerken oder Krankenh\u00e4usern zum Einsatz kommt. Die Gr\u00fcnde sind vielf\u00e4ltig: Mal reicht die alte Software f\u00fcr die Bed\u00fcrfnisse, in anderen F\u00e4llen bedeutet jede Ver\u00e4nderung der Software eine aufw\u00e4ndige Neuzertifizierung, die den Betrieb l\u00e4hmt. Gel\u00e4nge es b\u00f6swilligen Akteuren, durch KI-Unterst\u00fctzung ein deutlich gr\u00f6\u00dferes Portfolio an Sicherheitsl\u00fccken zu identifizieren, geriete Cybersicherheit auf breiter Front enorm unter Druck.<\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<p><span data-contrast=\"auto\">Dass diese Gefahren erkannt und inzwischen sehr ernst werden, zeigte die Reaktion der US-Regierung, nachdem Anthropic Anfang Juni eine in den Augen der Firma sichere Variante \u00f6ffentlich zug\u00e4nglich machte. Nur wenige Tage sp\u00e4ter verh\u00e4ngte die US-Regierung ein Exportverbot f\u00fcr die Software, vermutlich, weil man die M\u00f6glichkeit der Umgehung der Sicherheitsbeschr\u00e4nkungen bef\u00fcrchtete, und nannte als Grund etwas lapidar \u201eSorgen um die nationale Sicherheit\u201c.<\/span><a href=\"https:\/\/www.prif.org\/spotlight0826-fn\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">16<\/span><\/sup><\/a><span data-contrast=\"auto\">\u00a0Anthropic sah aber keine M\u00f6glichkeit, den Zugang nur auf Amerikaner*innen zu beschr\u00e4nken und nahm seine neuesten LLMs\u00a0Fable\u00a05 und Mythos 5 daraufhin vom Netz.<\/span><a href=\"https:\/\/www.anthropic.com\/news\/fable-mythos-access\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">17<\/span><\/sup><\/a><span data-contrast=\"auto\"><sup>\u00a0\u00a0<\/sup>\u00a0<\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<p><span data-contrast=\"auto\">Bei dem Problem allein auf Anthropic zu schauen, w\u00e4re aber falsch. Es ist davon auszugehen, dass auch andere auf Programmierung optimierte Modelle, wie z.B. die neuesten Qwen-Modelle (3.6\/3.7) des chinesischen Anbieters Alibaba in dieser F\u00e4higkeit kaum nachstehen. Und es k\u00f6nnen auch weniger leistungsf\u00e4hige, open-source verf\u00fcgbare LLMs Code auf Fehler und Schwachstellen hin analysieren. Der Geist ist aus der Flasche.\u00a0<\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<h2 aria-level=\"2\"><span data-contrast=\"none\">Empfehlungen<\/span><\/h2>\n<p aria-level=\"2\"><span data-contrast=\"auto\">Insgesamt ver\u00e4ndert\u00a0KI Cybersicherheit\u00a0also drastisch: Anthropic selbst erkl\u00e4rt, der gezielte Einsatz von KI \u201ecould\u00a0make\u00a0cyberattacks\u00a0of\u00a0all\u00a0kinds\u00a0much\u00a0more\u00a0frequent and destructive\u201c.<\/span><a href=\"https:\/\/www.anthropic.com\/glasswing\" target=\"_blank\" rel=\"noopener\"><sup><span data-contrast=\"auto\">18<\/span><\/sup><\/a><span data-contrast=\"auto\">\u00a0Genau\u00a0damit ist zu rechnen: Deutlich mehr und technisch ausgereiftere Cyberangriffe in immer gr\u00f6\u00dferer Zahl. Damit verschiebt sich die Balance zwischen Cyberoffensive und Cyberdefensive dramatisch, zumindest wenn die entsprechenden Modelle in die falschen H\u00e4nde geraten.\u00a0\u00a0<\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<p><span data-contrast=\"auto\">Was ist also zu tun? Verschiedene Reaktionen dr\u00e4ngen\u00a0sich geradezu\u00a0auf:\u00a0\u00a0<\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<p><span data-contrast=\"auto\">Projekte wie Glasswing sind zu unterst\u00fctzen, auch wenn gegen\u00fcber den beteiligten US-amerikanischen Firmen berechtigte Bedenken hinsichtlich Transparenz und Kontrolle bestehen. Die Europ\u00e4ische Union und ihre Mitgliedstaaten m\u00fcssen aktiv darauf dr\u00e4ngen, in solche Prozesse eingebunden zu werden, oder eigene europ\u00e4ische Alternativen initiieren. Wissen um und die Priorisierung von systemischen IT-Sicherheitsl\u00fccken sollten nicht exklusiv in den H\u00e4nden weniger US-Tech-Konzerne liegen, da dies die europ\u00e4ischen Bem\u00fchungen um digitale Souver\u00e4nit\u00e4t im Bereich IT-Sicherheit beeintr\u00e4chtigen w\u00fcrde.\u00a0<\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<p><span data-contrast=\"auto\">Westliche Staaten m\u00fcssen bei der Identifikation und dem Abgleich von kritischen Sicherheitsl\u00fccken viel st\u00e4rker zusammenarbeiten, als das bisher der Fall war.\u00a0Vulnerability-Equities-Prozesse staatlicher Stellen, also die Frage, ob das individuelle Wissen \u00fcber eine Schwachstelle und eine m\u00f6gliche eigene Ausnutzung mehr wiegen soll als die Bekanntmachung und das Patching, sollten die Offenlegung entdeckter Schwachstellen gegen\u00fcber Herstellern deutlich st\u00e4rker priorisieren als deren geheimdienstliche Nutzung.\u00a0\u00a0<\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<p><span data-contrast=\"auto\">Entscheidungen \u00fcber das bewusste Zur\u00fcckhalten kritischer Sicherheitsl\u00fccken sollten nicht allein exekutiven Sicherheitsbeh\u00f6rden \u00fcberlassen bleiben, sondern national durch unabh\u00e4ngige Kontrollgremien \u00fcberpr\u00fcft werden. Ziel muss es sein, dem Schutz der \u00f6ffentlichen Cyber-Infrastruktur deutlich Priorit\u00e4t einzur\u00e4umen. Deutschland kann hier mit einer entsprechenden Haltung vorangehen.\u00a0<\/span><span data-ccp-props=\"{}\">\u00a0<\/span><\/p>\n<p><span data-contrast=\"auto\">Schlie\u00dflich ist die Bedeutung von KI im Bereich von\u00a0Social\u00a0Engineering st\u00e4rker ins Bewusstsein der \u00d6ffentlichkeit zu bringen. Zus\u00e4tzliche Sicherheitsma\u00dfnahmen, z.B. manuelle R\u00fcckfragen, ob die Mail wirklich vom behaupteten Absender stammt, sind zeitraubend und enervierend, vermutlich aber nicht zu umgehen. Entsprechende Aufkl\u00e4rungskampagnen durch die einschl\u00e4gigen deutschen oder europ\u00e4ischen IT-Sicherheitsbeh\u00f6rden sind ein Muss.<\/span><\/p>\n<hr \/>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"alignleft size-full wp-image-15810\" src=\"https:\/\/blog.prif.org\/wp-content\/uploads\/2026\/06\/Screenshot-06-26-Spotlight.jpg\" alt=\"\" width=\"200\" height=\"282\" \/> Download (pdf): <a href=\"https:\/\/doi.org\/10.48809\/prifspot2608\" target=\"_blank\" rel=\"noopener\"><span class=\"s_autoren\">Sch\u00f6rnig, Niklas<\/span>\u00a0(<span class=\"s_publikationsjahr\">2026<\/span>):\u00a0<span class=\"s_titel\">Die dunkle Seite neuer KI-Sprachmodelle<\/span>.\u00a0<span class=\"s_untertitel\">Wie Large Language Models die Cybersicherheit herausfordern<\/span>,\u00a0<span class=\"s_reihentitel\">PRIF Spotlight<\/span>,\u00a0<span class=\"s_reihennummer\">8<\/span>,\u00a0<span class=\"s_erscheinungsort\">Frankfurt\/M<\/span>\u00a0. DOI:\u00a0<span class=\"s_doi\">10.48809\/prifspot2608<\/span><\/a><\/p>\n<p><a href=\"https:\/\/www.prif.org\/spotlight0826-fn\" target=\"_blank\" rel=\"noopener\">Zu den Fu\u00dfnoten<\/a><\/p>\n<p>&nbsp;<\/p>\n<p>&nbsp;<\/p>\n<p>&nbsp;<\/p>\n<p>&nbsp;<\/p>\n<p>&nbsp;<\/p>\n<p>&nbsp;<\/p>\n<hr \/>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Die Diskussion um die Gefahren aktueller KI-basierter Large Language Models (LLMs) f\u00fcr unsere Cybersicherheit hat j\u00fcngst nach den Ver\u00f6ffentlichungen des neuesten Modells der Firma Anthropic, Claude Mythos, einen enormen Schub erhalten. Zun\u00e4chst aus (mutma\u00dflicher) Angst vor Missbrauch nicht ver\u00f6ffentlicht, mit Sicherheitsvorkehrungen dann doch online, in k\u00fcrzester Zeit von der US-Regierung unter Exportverbot gestellt und wieder vom Netz genommen \u2013 das Ringen um Mythos zeigt die Bedeutung von LLMs in der Cybersicherheit exemplarisch auf. Denn solche neuesten KI-Werkzeuge drohen bereits bestehende Angriffsformen zu skalieren, zu beschleunigen und zu personalisieren. Das verschafft Angreifern einen erheblichen Vorteil und setzt die Defensive unter Druck.<\/p>\n","protected":false},"author":44,"featured_media":15813,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1141,1112],"tags":[1263,1161,1255],"coauthors":[212],"class_list":["post-15812","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-deutsch-en","category-prif-spotlight","tag-artificial-intelligence","tag-cybersecurity-en-2","tag-security"],"acf":[],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v28.3 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>Die dunkle Seite neuer KI-Sprachmodelle: Wie Large Language Models die Cybersicherheit herausfordern - PRIF BLOG<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/\" \/>\n<meta property=\"og:locale\" content=\"en_US\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Die dunkle Seite neuer KI-Sprachmodelle: Wie Large Language Models die Cybersicherheit herausfordern - PRIF BLOG\" \/>\n<meta property=\"og:description\" content=\"Die Diskussion um die Gefahren aktueller KI-basierter Large Language Models (LLMs) f\u00fcr unsere Cybersicherheit hat j\u00fcngst nach den Ver\u00f6ffentlichungen des neuesten Modells der Firma Anthropic, Claude Mythos, einen enormen Schub erhalten. Zun\u00e4chst aus (mutma\u00dflicher) Angst vor Missbrauch nicht ver\u00f6ffentlicht, mit Sicherheitsvorkehrungen dann doch online, in k\u00fcrzester Zeit von der US-Regierung unter Exportverbot gestellt und wieder vom Netz genommen \u2013 das Ringen um Mythos zeigt die Bedeutung von LLMs in der Cybersicherheit exemplarisch auf. Denn solche neuesten KI-Werkzeuge drohen bereits bestehende Angriffsformen zu skalieren, zu beschleunigen und zu personalisieren. Das verschafft Angreifern einen erheblichen Vorteil und setzt die Defensive unter Druck.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/\" \/>\n<meta property=\"og:site_name\" content=\"PRIF BLOG\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/HSFK.PRIF\" \/>\n<meta property=\"article:published_time\" content=\"2026-06-25T13:18:14+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2026-06-29T09:19:51+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/blog.prif.org\/wp-content\/uploads\/2026\/06\/564933173_BLOG-1.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1875\" \/>\n\t<meta property=\"og:image:height\" content=\"1025\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Niklas Sch\u00f6rnig\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@HSFK_PRIF\" \/>\n<meta name=\"twitter:site\" content=\"@HSFK_PRIF\" \/>\n<meta name=\"twitter:label1\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data1\" content=\"Niklas Sch\u00f6rnig\" \/>\n\t<meta name=\"twitter:label2\" content=\"Est. reading time\" \/>\n\t<meta name=\"twitter:data2\" content=\"12 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/2026\\\/06\\\/25\\\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/2026\\\/06\\\/25\\\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\\\/\"},\"author\":{\"name\":\"Niklas Sch\u00f6rnig\",\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/#\\\/schema\\\/person\\\/4842302e5dd91db52894517d5de34385\"},\"headline\":\"Die dunkle Seite neuer KI-Sprachmodelle: Wie Large Language Models die Cybersicherheit herausfordern\",\"datePublished\":\"2026-06-25T13:18:14+00:00\",\"dateModified\":\"2026-06-29T09:19:51+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/2026\\\/06\\\/25\\\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\\\/\"},\"wordCount\":2303,\"publisher\":{\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/2026\\\/06\\\/25\\\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/blog.prif.org\\\/wp-content\\\/uploads\\\/2026\\\/06\\\/564933173_BLOG-1.jpg\",\"keywords\":[\"Artificial Intelligence\",\"Cybersecurity\",\"Security\"],\"articleSection\":[\"Deutsch\",\"PRIF Spotlight\"],\"inLanguage\":\"en-US\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/2026\\\/06\\\/25\\\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\\\/\",\"url\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/2026\\\/06\\\/25\\\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\\\/\",\"name\":\"Die dunkle Seite neuer KI-Sprachmodelle: Wie Large Language Models die Cybersicherheit herausfordern - PRIF BLOG\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/2026\\\/06\\\/25\\\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/2026\\\/06\\\/25\\\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/blog.prif.org\\\/wp-content\\\/uploads\\\/2026\\\/06\\\/564933173_BLOG-1.jpg\",\"datePublished\":\"2026-06-25T13:18:14+00:00\",\"dateModified\":\"2026-06-29T09:19:51+00:00\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/2026\\\/06\\\/25\\\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\\\/#breadcrumb\"},\"inLanguage\":\"en-US\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/blog.prif.org\\\/en\\\/2026\\\/06\\\/25\\\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/2026\\\/06\\\/25\\\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\\\/#primaryimage\",\"url\":\"https:\\\/\\\/blog.prif.org\\\/wp-content\\\/uploads\\\/2026\\\/06\\\/564933173_BLOG-1.jpg\",\"contentUrl\":\"https:\\\/\\\/blog.prif.org\\\/wp-content\\\/uploads\\\/2026\\\/06\\\/564933173_BLOG-1.jpg\",\"width\":1875,\"height\":1025,\"caption\":\"Noch hilft KI nur bei Online-Einbr\u00fcchen. Bild: Generiert mit Google Gemini\\\/Nano Banana 2, (19.06.2026).\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/2026\\\/06\\\/25\\\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Die dunkle Seite neuer KI-Sprachmodelle: Wie Large Language Models die Cybersicherheit herausfordern\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/#website\",\"url\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/\",\"name\":\"PRIF BLOG\",\"description\":\"Peace Research Institute Frankfurt \\\/ Leibniz Institut Hessische Stiftung Friedens- und Konfliktforschung\",\"publisher\":{\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"en-US\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/#organization\",\"name\":\"Peace Research Institute Frankfurt \\\/ Leibniz Institut Hessische Stiftung Friedens- und Konfliktforschung\",\"url\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/blog.prif.org\\\/wp-content\\\/uploads\\\/2023\\\/09\\\/cropped-blog_rgb.png\",\"contentUrl\":\"https:\\\/\\\/blog.prif.org\\\/wp-content\\\/uploads\\\/2023\\\/09\\\/cropped-blog_rgb.png\",\"width\":750,\"height\":226,\"caption\":\"Peace Research Institute Frankfurt \\\/ Leibniz Institut Hessische Stiftung Friedens- und Konfliktforschung\"},\"image\":{\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/www.facebook.com\\\/HSFK.PRIF\",\"https:\\\/\\\/x.com\\\/HSFK_PRIF\",\"https:\\\/\\\/www.linkedin.com\\\/company\\\/8912786\\\/\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/#\\\/schema\\\/person\\\/4842302e5dd91db52894517d5de34385\",\"name\":\"Niklas Sch\u00f6rnig\",\"description\":\"Dr. Niklas Sch\u00f6rnig ist Senior Researcher im Programm\u00adbereich Inter\u00adnationale Sicher\u00adheit und Leiter der Forschungs\u00adgruppe Emerging Disruptive Technologies. Er forscht zu Emerging Military Techno\u00adlogy, der Zukunft der Kriegs\u00adf\u00fchrung und R\u00fcstungs\u00adkontrolle. \\\/\\\/ Dr. Niklas Sch\u00f6rnig is a Senior Researcher in the Research Depart\u00adment Inter\u00adnational Security and Head of the Research Group Emerging Disruptive Technologies. He focuses on emerging military techno\u00adlogy, the future of war\u00adfare and arms control. | Twitter: @NiklasSchoernig\",\"sameAs\":[\"https:\\\/\\\/www.prif.org\\\/ueber-uns\\\/person\\\/niklas-schoernig\"],\"url\":\"https:\\\/\\\/blog.prif.org\\\/en\\\/author\\\/nschoernig\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Die dunkle Seite neuer KI-Sprachmodelle: Wie Large Language Models die Cybersicherheit herausfordern - PRIF BLOG","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/","og_locale":"en_US","og_type":"article","og_title":"Die dunkle Seite neuer KI-Sprachmodelle: Wie Large Language Models die Cybersicherheit herausfordern - PRIF BLOG","og_description":"Die Diskussion um die Gefahren aktueller KI-basierter Large Language Models (LLMs) f\u00fcr unsere Cybersicherheit hat j\u00fcngst nach den Ver\u00f6ffentlichungen des neuesten Modells der Firma Anthropic, Claude Mythos, einen enormen Schub erhalten. Zun\u00e4chst aus (mutma\u00dflicher) Angst vor Missbrauch nicht ver\u00f6ffentlicht, mit Sicherheitsvorkehrungen dann doch online, in k\u00fcrzester Zeit von der US-Regierung unter Exportverbot gestellt und wieder vom Netz genommen \u2013 das Ringen um Mythos zeigt die Bedeutung von LLMs in der Cybersicherheit exemplarisch auf. Denn solche neuesten KI-Werkzeuge drohen bereits bestehende Angriffsformen zu skalieren, zu beschleunigen und zu personalisieren. Das verschafft Angreifern einen erheblichen Vorteil und setzt die Defensive unter Druck.","og_url":"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/","og_site_name":"PRIF BLOG","article_publisher":"https:\/\/www.facebook.com\/HSFK.PRIF","article_published_time":"2026-06-25T13:18:14+00:00","article_modified_time":"2026-06-29T09:19:51+00:00","og_image":[{"width":1875,"height":1025,"url":"https:\/\/blog.prif.org\/wp-content\/uploads\/2026\/06\/564933173_BLOG-1.jpg","type":"image\/jpeg"}],"author":"Niklas Sch\u00f6rnig","twitter_card":"summary_large_image","twitter_creator":"@HSFK_PRIF","twitter_site":"@HSFK_PRIF","twitter_misc":{"Written by":"Niklas Sch\u00f6rnig","Est. reading time":"12 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/#article","isPartOf":{"@id":"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/"},"author":{"name":"Niklas Sch\u00f6rnig","@id":"https:\/\/blog.prif.org\/en\/#\/schema\/person\/4842302e5dd91db52894517d5de34385"},"headline":"Die dunkle Seite neuer KI-Sprachmodelle: Wie Large Language Models die Cybersicherheit herausfordern","datePublished":"2026-06-25T13:18:14+00:00","dateModified":"2026-06-29T09:19:51+00:00","mainEntityOfPage":{"@id":"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/"},"wordCount":2303,"publisher":{"@id":"https:\/\/blog.prif.org\/en\/#organization"},"image":{"@id":"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/#primaryimage"},"thumbnailUrl":"https:\/\/blog.prif.org\/wp-content\/uploads\/2026\/06\/564933173_BLOG-1.jpg","keywords":["Artificial Intelligence","Cybersecurity","Security"],"articleSection":["Deutsch","PRIF Spotlight"],"inLanguage":"en-US"},{"@type":"WebPage","@id":"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/","url":"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/","name":"Die dunkle Seite neuer KI-Sprachmodelle: Wie Large Language Models die Cybersicherheit herausfordern - PRIF BLOG","isPartOf":{"@id":"https:\/\/blog.prif.org\/en\/#website"},"primaryImageOfPage":{"@id":"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/#primaryimage"},"image":{"@id":"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/#primaryimage"},"thumbnailUrl":"https:\/\/blog.prif.org\/wp-content\/uploads\/2026\/06\/564933173_BLOG-1.jpg","datePublished":"2026-06-25T13:18:14+00:00","dateModified":"2026-06-29T09:19:51+00:00","breadcrumb":{"@id":"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/#breadcrumb"},"inLanguage":"en-US","potentialAction":[{"@type":"ReadAction","target":["https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/"]}]},{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/#primaryimage","url":"https:\/\/blog.prif.org\/wp-content\/uploads\/2026\/06\/564933173_BLOG-1.jpg","contentUrl":"https:\/\/blog.prif.org\/wp-content\/uploads\/2026\/06\/564933173_BLOG-1.jpg","width":1875,"height":1025,"caption":"Noch hilft KI nur bei Online-Einbr\u00fcchen. Bild: Generiert mit Google Gemini\/Nano Banana 2, (19.06.2026)."},{"@type":"BreadcrumbList","@id":"https:\/\/blog.prif.org\/en\/2026\/06\/25\/die-dunkle-seite-neuer-ki-sprachmodelle-wie-large-language-models-die-cybersicherheit-herausfordern\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/blog.prif.org\/en\/"},{"@type":"ListItem","position":2,"name":"Die dunkle Seite neuer KI-Sprachmodelle: Wie Large Language Models die Cybersicherheit herausfordern"}]},{"@type":"WebSite","@id":"https:\/\/blog.prif.org\/en\/#website","url":"https:\/\/blog.prif.org\/en\/","name":"PRIF BLOG","description":"Peace Research Institute Frankfurt \/ Leibniz Institut Hessische Stiftung Friedens- und Konfliktforschung","publisher":{"@id":"https:\/\/blog.prif.org\/en\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/blog.prif.org\/en\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"en-US"},{"@type":"Organization","@id":"https:\/\/blog.prif.org\/en\/#organization","name":"Peace Research Institute Frankfurt \/ Leibniz Institut Hessische Stiftung Friedens- und Konfliktforschung","url":"https:\/\/blog.prif.org\/en\/","logo":{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/blog.prif.org\/en\/#\/schema\/logo\/image\/","url":"https:\/\/blog.prif.org\/wp-content\/uploads\/2023\/09\/cropped-blog_rgb.png","contentUrl":"https:\/\/blog.prif.org\/wp-content\/uploads\/2023\/09\/cropped-blog_rgb.png","width":750,"height":226,"caption":"Peace Research Institute Frankfurt \/ Leibniz Institut Hessische Stiftung Friedens- und Konfliktforschung"},"image":{"@id":"https:\/\/blog.prif.org\/en\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/HSFK.PRIF","https:\/\/x.com\/HSFK_PRIF","https:\/\/www.linkedin.com\/company\/8912786\/"]},{"@type":"Person","@id":"https:\/\/blog.prif.org\/en\/#\/schema\/person\/4842302e5dd91db52894517d5de34385","name":"Niklas Sch\u00f6rnig","description":"Dr. Niklas Sch\u00f6rnig ist Senior Researcher im Programm\u00adbereich Inter\u00adnationale Sicher\u00adheit und Leiter der Forschungs\u00adgruppe Emerging Disruptive Technologies. Er forscht zu Emerging Military Techno\u00adlogy, der Zukunft der Kriegs\u00adf\u00fchrung und R\u00fcstungs\u00adkontrolle. \/\/ Dr. Niklas Sch\u00f6rnig is a Senior Researcher in the Research Depart\u00adment Inter\u00adnational Security and Head of the Research Group Emerging Disruptive Technologies. He focuses on emerging military techno\u00adlogy, the future of war\u00adfare and arms control. | Twitter: @NiklasSchoernig","sameAs":["https:\/\/www.prif.org\/ueber-uns\/person\/niklas-schoernig"],"url":"https:\/\/blog.prif.org\/en\/author\/nschoernig\/"}]}},"views":157,"_links":{"self":[{"href":"https:\/\/blog.prif.org\/en\/wp-json\/wp\/v2\/posts\/15812","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.prif.org\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.prif.org\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.prif.org\/en\/wp-json\/wp\/v2\/users\/44"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.prif.org\/en\/wp-json\/wp\/v2\/comments?post=15812"}],"version-history":[{"count":4,"href":"https:\/\/blog.prif.org\/en\/wp-json\/wp\/v2\/posts\/15812\/revisions"}],"predecessor-version":[{"id":15824,"href":"https:\/\/blog.prif.org\/en\/wp-json\/wp\/v2\/posts\/15812\/revisions\/15824"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.prif.org\/en\/wp-json\/wp\/v2\/media\/15813"}],"wp:attachment":[{"href":"https:\/\/blog.prif.org\/en\/wp-json\/wp\/v2\/media?parent=15812"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.prif.org\/en\/wp-json\/wp\/v2\/categories?post=15812"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.prif.org\/en\/wp-json\/wp\/v2\/tags?post=15812"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/blog.prif.org\/en\/wp-json\/wp\/v2\/coauthors?post=15812"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}