Algo.Rules – 9 ethische Regeln für Algorithmen

Die Algo.Rules sind eine Reihe von 9 formalen Regeln für Algorithmen, die befolgt werden sollten, um die Konstruktion und Bewertung sozial nützlicher algorithmischer Systeme zu ermöglichen und zu erleichtern.
Sie bilden die Grundlage für ethische Überlegungen sowie für die Umsetzung und Durchsetzung gesetzlicher Bestimmungen. Diese Anforderungen sollten bei der Erstellung von Systemen berücksichtigt und „by design“ angewendet werden. Die einzelnen Algo.Rules (Regeln für Algorithmen) sind miteinander verknüpft und müssen als Ganzes betrachtet werden.

1 Kompetenz aufbauen

Die Funktionsweise und die möglichen Auswirkungen eines algorithmischen Systems müssen verstanden werden.

2 Verantwortung definieren

Für die Auswirkungen des Einsatzes eines algorithmischen Systems muss stets eine natürliche oder juristische Person verantwortlich sein.

3 Ziele und erwartete Wirkung dokumentieren

Die Ziele und die erwartete Wirkung des Einsatzes eines algorithmischen Systems müssen vor dessen Einsatz dokumentiert und abgewogen werden.

4 Sicherheit gewährleisten

Die Sicherheit eines algorithmischen Systems muss vor dessen Einsatz getestet und fortlaufend gewährleistet werden.

5 Kennzeichnung durchführen

Der Einsatz eines algorithmischen Systems muss gekennzeichnet sein.

6 Nachvollziehbarkeit sicherstellen

Die Entscheidungsfindung eines algorithmischen Systems muss stets nachvollziehbar sein.

7 Beherrschbarkeit absichern

Ein algorithmisches System muss während seines gesamten Einsatzes gestaltbar sein und bleiben.

8 Wirkung überprüfen

Die Auswirkungen eines algorithmischen Systems müssen regelmäßig überprüft werden.

9 Beschwerden ermöglichen

Fragwürdige oder die Rechte einer betroffenen Person beeinträchtigende Entscheidungen eines algorithmischen Systems müssen erklärt und gemeldet werden können.

 

(Quelle: Algo.Rules)
#algorules