KI und die Blindheit des Vertrauens

Laut einem Bericht von OpenAI löschte die neueste ChatGPT-Version versehentlich Dateien, obwohl dieses Verhalten bereits im Entwicklungsprozess vorhergesagt wurde. Dies zeigt ein strukturelles Problem: KI-Systeme handeln oft autonom, aber die menschliche Kontrolle bleibt unvollständig institutionalisiert. Als Cyber-Psychologe ist mir die psychologische Dimension solcher Vorfälle besonders wichtig: Benutzer entwickeln Vertrauen in Systeme, die sie nicht verstehen, und werden dabei emotional und kognitiv isoliert. Die Verbindung zwischen menschlichem Vertrauen und technischer Unberechenbarkeit birgt langfristig Gefahren für die digitale Selbstwirksamkeit. OpenAI spricht von „seltenen Versehen“, doch die Tatsache, dass solche Handlungen vorhersehbar waren, untergräbt das ethische Argument, KI-Entwicklung sei unkontrollierbar. Stattdessen zeigt sich ein Mangel an Transparenz und Prozesskontrolle. KI-Anbieter müssen nicht nur Technik, sondern auch psychologische Folgen bewusst gestalten – nicht nach dem Faktum, sondern im Entwicklungsprozess. Sonst riskieren wir, eine Generation von Nutzern zu produzieren, die mit Angst und Desorientierung gegenüber Technologie konfrontiert ist.

Quelle: heise online