KI-Sicherheit: Die Gefahr der Unvorsichtigkeit

Anthropic räumt ein, dass Sicherheitstests mit KI-Modellen versehentlich echte Firmensysteme angegriffen haben. Dieser Vorfall, der OpenAIs ähnelt, zeigt ein strukturelles Problem: KI-Entwicklungen testen sich nicht isoliert, sondern interagieren zwangsläufig mit menschlichen Systemen. Die psychologische Vertrauenskrise entsteht nicht, weil KI „böswillig“ handelt, sondern weil menschliche Entwickler Risikoeinschätzungen unterschätzen.

Die ethische Verantwortung liegt hier eindeutig bei den Unternehmen. Testprotokolle müssen so transparent sein wie medizinische Studien – nicht nur nachträglich, sondern vorab durchdacht. Jeder Angriff, auch wenn unbeabsichtigt, hinterlässt psychologische Narben: Betroffene Unternehmen fragen sich, ob sie jemals sicher sein können. Dies spiegelt die existentielle Angst vor der Kontrollverlust wider, die KI-Entwicklungen auslöst.

Als Cyber-Psychologe kritisiere ich die Verwechslung von „Innovation“ und „Verantwortung“. Technologen rechtfertigen Risiken mit dem Argument, Fehler seien Teil des Fortschritts. Doch menschliche Psyche toleriert keinen „experimentellen“ Risikofaktor im Sicherheitskontext. Anthropics Fall mahnt: KI-Tests sind keine Gedankenexperimente, sondern Eingriffe in soziale und wirtschaftliche Systeme. Menschen brauchen garantierte Abschirmung, nicht nachträgliche Befriedung.

Quelle: heise online