Der Sicherheitsrat der Bundesregierung hat die Gründung eines Sicherheitsin-stituts für Künstliche Intelligenz beschlossen. Das deutsche AI Security Institute (DE-AISI) soll Risiken von KI bewerten und Gesetze für Krisenfälle prüfen.
Das neue Institut soll zunächst virtuell entstehen. Erst nach dem Aufbau soll ein Standort festgelegt werden. Wann das sein wird, steht jedoch noch nicht fest. Ein BSI-Sprecher sagte, mit Blick auf die rasante technologische Entwicklung im Bereich der Künstlichen Intelligenz sei es den federführenden Ministerien – dem Bundesinnenministerium und dem Digitalministerium – wichtig, hier zügig voran-zukommen. Die Strukturen und Kompetenzen der KI-Einrichtung sollen dabei von der Bundesnetzagentur und dem Bundesamt für Sicherheit in der Informations-technik (BSI) genutzt werden.
Zu den weiteren Aufgaben des Instituts soll auch ein verbesserter internationaler Austausch gehören. Zudem soll es auf einheitliche Standards mit internationalen Partnern hinwirken, teilte Regierungssprecher Stefan Kornelius mit. Zahlreiche Staaten verfügen bereits über vergleichbare Institute. In Deutschland war bislang das BSI für entsprechende Aufgaben zuständig.
So nahm das BSI im Dezember an einem internationalen Treffen zur Vereinheitlichung von KI-Standards in der südkoreanischen Hauptstadt Seoul teil. https://social.bund.de/@bsi/115656405686466228 ; https://www.iso.org/aisummit
Nach britischem Vorbild
Der Branchenverband der deutschen Informations- und Telekommunikationsbranche Bitkom begrüßte die Gründung des Instituts. Susanne Dehmel, Mitglied der Bitkom-Geschäftsleitung, erklärte: „Mit der Gründung eines Sicherheitsinstituts für Künstliche Intelligenz zieht Deutschland mit Staaten wie Großbritannien, den USA oder Frankreich gleich, die bereits eigene Institute aufgebaut haben.“
Mit der Einrichtung schaffe Deutschland die Voraussetzungen, Risiken von KI-Systemen fundiert bewerten zu können. Im Zentrum müssten neue systemische Risiken für Deutschlands Sicherheit und Souveränität stehen.
Mit Blick auf die künftige Ausrichtung des Instituts forderte Dehmel: „Das DE-AISI sollte ein von bestehenden Einrichtungen abgegrenztes Forschungsmandat erhalten und ein Lagebild zu den neuen sogenannten Frontier-Modellen erstellen.“ Zudem betonte sie die Bedeutung internationaler Spitzenkräfte für den Erfolg des Instituts. „Dafür braucht das Institut mindestens eine Finanzierung auf dem Niveau des britischen AISI“ https://www.aisi.gov.uk so Dehmel. Dem stimmte auch Bundesdigitalminister Karsten Wildberger (CDU) zu. Er kündigte an, das KI-Institut solle mit „Top-Expertise von Experten auf Weltniveau“ ausgestattet werden. Diese sollen neue Modelle wie etwa Claude Mythos schnell testen, bewerten und die Bundesregierung sowie die Verwaltung beraten. Auch Wildberger sieht als Vorbild das britische KI-Sicherheitsinstitut. Claude Mythos https://www.anthropic.com/news/claude-fable-5-mythos-5 ist ein KI-Modell des Unternehmens Anthropic. Aufmerksamkeit erregte es insbesondere durch seine Fähigkeit, Software-Sicherheitslücken in kurzer Zeit aufzuspüren. Ein möglicher Missbrauch könnte Cyber-Angriffe erleichtern und nach Einschätzung von Expertinnen und Experten sogar ein systemisches Risiko für das globale Finanz-system darstellen.
Der Nationale Sicherheitsrat besteht seit August 2025 unter der Leitung des Bun-deskanzlers Friedrich Merz (CDU). Anfang November tagte der Rat erstmals.
Durch das Gremium sollen Fragen, welche die deutsche Sicherheit in unter-schiedlichsten Bereichen betreffen, an zentraler Stelle im Bundeskanzleramt ressortübergreifend beraten werden. Neben Mitgliedern der Bundesregierung und Sicherheitsbehörden können auch Vertreter der Länder eingeladen werden.