KI Red Teaming

Beschreibung

Sprachmodelle schreiben überzeugende Texte, treffen plausible Entscheidungen und integrieren sich nahtlos in Organisationen. Genau darin liegt ihr Risiko. Denn KI-Systeme wirken korrekt, auch wenn sie falsch liegen – und sie entfalten Wirkung, ohne formell Regeln zu brechen. Dieses Buch zeigt, warum klassisches Red Teaming, Penetration Testing und Application Security für KI-Systeme nicht ausreichen – und wie KI-Red-Teaming als eigenständige Disziplin entsteht: hypothesengetrieben, wirkungsorientiert und auditfähig. Statt spektakulärer Exploits analysiert der Autor reale Angriffspfade: Prompt Injection ohne Regelbruch, Datenrekonstruktion in RAG-Systemen, Autonomieeffekte bei Agenten, Datenschutzrisiken durch Wahrscheinlichkeiten. Immer geht es nicht um das „Hacken“ von KI, sondern um das systematische Hinterfragen ihrer Nutzung, Integration und Verantwortung. Das Buch richtet sich an Entwickler, Security-Teams, Red Teams, Compliance- und Datenschutzverantwortliche sowie Entscheider, die KI nicht als Magie, sondern als kritische Infrastruktur begreifen. Alle Beispiele sind reproduzierbar, lokal testbar und DSGVO-konform. KI-Red-Teaming testet keine Systeme. Es testet Annahmen. Dieses Buch zeigt, wie – und warum das heute unverzichtbar ist.

Autor*in

Holger Reibold
Autor ist der Informatiker Dr. Holger Reibold, der seit über 30 Jahren zu Internet- und Open-Source-Themen publiziert. Reibold gilt als Urgestein der deutschen IT-Szene. Er hat sich durch unzählige Beststeller in den vergangenen Jahren einen Namen in der Branche erarbeitet. Als Key Account Manager eines IT-Dienstleisters hat er unmittelbare Einblick in die Entwicklung und den Betrieb von KI-Systemen und kennt die sicherheitsspezifischen Herausforderungen aus der Praxis.

Themen in »KI Red Teaming«

Künstliche Intelligenz IT-Sicherheit KI-Sicherheit Red Teaming Cybersecurity

Stimmen zu »KI Red Teaming«

Details

Link teilen