BSI-Präsidentin Claudia Plattner verlangt von großen KI-Anbietern mehr Verantwortung für Sicherheitsrisiken und fordert verbindliche technische Regeln. Sie warnt vor anhaltenden Problemen durch autonome Systeme und menschlichen Missbrauch.
BSI fordert strengere Kontrolle von KI-AnbieternBSI-Präsidentin Claudia Plattner kritisiert führende KI-Anbieter wegen ihres Umgangs mit Cybersicherheit. Die Hersteller widmeten der Sicherheit ihrer Systeme bislang zu wenig Aufmerksamkeit, sagte Plattner dem „Spiegel“.Verantwortung für AngriffeDas gelte für alle großen Anbieter in den USA und in China, erklärte die BSI-Präsidentin. Die Unternehmen müssten unkontrollierte Angriffe durch ihre Systeme wirksamer verhindern und andernfalls für die Folgen einstehen.Es sei das Produkt der Hersteller, daher müssten sie sicherstellen, dass sich solche Vorgänge künftig verhindern ließen. Andernfalls könnten auch Haftungsfragen entstehen.Regeln für autonome SystemeMit der aktuellen Lage, in der immer neue IT-Sicherheitsvorfälle durch unkontrollierte KI-Agenten bekannt würden, könne niemand zufrieden sein. Plattner forderte eine Regulierung, die über Selbstverpflichtungen und allgemeine Versprechen zu mehr Vorsicht hinausgeht.Die üblichen politischen Instrumente reichten dafür nicht aus. Technisch müsse geklärt werden, um welche KI es sich handelt, wem sie gehört, wer sie beauftragt und welche Befugnisse sie besitzt.Prüfstelle soll Vorgaben überwachenNach Plattners Vorstellung braucht es zudem eine Stelle, die die Einhaltung dieser Regeln überprüft. Sie rechnet nicht mit einem schnellen Abflauen der Sicherheitsprobleme durch KI-Agenten oder des menschlich gesteuerten Missbrauchs von KI.Deutschland stünden deshalb unruhige Zeiten bevor, sagte die BSI-Präsidentin dem „Spiegel“.
Die Kritik der BSI-Präsidentin fällt in eine Phase, in der KI-Systeme nicht mehr nur Texte erzeugen oder Fragen beantworten, sondern zunehmend eigenständig Aufgaben in digitalen Umgebungen ausführen. Solche KI-Agenten können Dienste ansteuern, Dateien verarbeiten, Code verändern oder weitere Systeme nutzen. Dadurch verschiebt sich das Sicherheitsproblem: Nicht nur das Modell selbst muss geschützt werden, sondern auch seine Zugriffsrechte, seine Auftraggeber und die von ihm ausgelösten Aktionen.Für Unternehmen und Behörden bedeutet das, Zuständigkeiten und technische Grenzen genauer festzulegen. Entscheidend sind unter anderem nachvollziehbare Identitäten von Agenten, eine Begrenzung ihrer Berechtigungen, Protokollierung sowie die Möglichkeit, automatisierte Aktionen schnell zu stoppen. Ohne solche Kontrollen kann ein Fehler des Systems ebenso wie ein gezielter Missbrauch größere Folgen haben als eine gewöhnliche fehlerhafte Softwareausgabe.Haftung und KontrollePlattners Forderung nach einer Stelle zur Überprüfung der Regeln zielt auf eine Lücke zwischen freiwilligen Zusagen und verbindlicher Aufsicht. Für Nutzer und betroffene Unternehmen ist dabei besonders relevant, wer im Schadensfall verantwortlich ist: der Betreiber, der Auftraggeber oder der Anbieter des KI-Systems. Die Debatte dürfte deshalb neben technischen Standards auch Fragen des Nachweises, der Haftung und der behördlichen Kontrolle betreffen.Die aktuelle PHP-Sicherheitslücke zeigt zugleich, wie eng klassische IT-Sicherheit und KI inzwischen verbunden sind: KI kann Schwachstellen schneller auffinden, aber auch Angriffe erleichtern. Die von Plattner angekündigte anhaltende Belastung betrifft damit nicht nur einzelne Anbieter, sondern die gesamte digitale Infrastruktur.