KI und Cyber-Sicherheit: Der Illusion der Unverwundbarkeit

Mit Lakewatch präsentiert Databricks eine neue Dimension der Cyber-Sicherheit: KI-Agenten, die autonom Bedrohungen in Datenpools erkennen und priorisieren. Auf den ersten Blick ein technischer Meilenstein, doch hinter der Effizienz steckt ein tieferes psychosoziales Problem. Die Automatisierung von Risiko-Einschätzungen durch KI erzeugt eine Illusion der Kontrollierbarkeit, die in der Praxis zu Übervertrauen führt.

Als Cyber-Psychologe sehe ich den Kern des Problems in der menschlichen Tendenz, komplexe Systeme zu reduzieren, sobald sie als "intelligent" getarnt werden. Lakewatch’ Agenten erledigen zwar repetitive Analysen, doch sie fehlen die emotionalen und kontextuellen Einsichten, die menschliche Analysten bei der Bewertung von Schadensszenarien einbringen. Ein KI-System, das auf historischen Daten trainiert ist, kann niemals akzeptieren, dass "neue" Bedrohungen existieren – es übersetzt nur, was es kennt.

Die Open-Source-Strategie von Databricks wirkt zwar demokratisch, birgt aber das Risiko, KI-Werkzeuge in Hände zu legen, die sie nicht verständnisvoll nutzen können. Je mehr Unternehmen glauben, mit KI-Agenten allein sicher zu sein, desto größer wird die Gefahr, dass menschliche Entscheidungsträger ihre Verantwortung an Blackbox-Systeme delegieren. Die ethische Frage lautet: Wer ist für Fehler verantwortlich, wenn ein automatisiertes System ein Risiko falsch einstuft?

Quelle: heise online