Unternehmen treffen täglich unzählige Entscheidungen. Die Optimierung und Automatisierung von Entscheidungsprozessen ist deshalb Kernaufgabe in vielen Unternehmen. Viele Entscheidungen, die bislang durch den Menschen getroffen wurden, können von Algorithmen und algorithmischen Verfahren ebenso, wenn nicht sogar noch präziser, objektiver und schneller getroffen werden. Dies gilt insbesondere für datenintensive und zeitkritische Entscheidungen, die rationalen (formalisierbaren) Kriterien folgen. Hier spricht man von Algorithmic Decision Making (ADM). …
ADM-Systeme können fehlerhafte Entscheidungen treffen, die möglicherweise normative Anforderungen verletzen und damit Rechte Dritter verletzen. Insbesondere sind das Diskriminierungsverbot sowie das Verbot automatisierter Entscheidungen betroffen. So ist beispielsweise nach dem Allgemeinen Gleichbehandlungsgesetz (AGG) eine Benachteiligung, im Sinne einer Diskriminierung, nach bestimmten individuellen Merkmalen nicht zulässig. ADM-Systeme, insbesondere wenn ihnen maschinelle Lernverfahren zugrunde liegen, können jedoch genau solch problematisches Verhalten aufweisen. …
Das vorliegende Gutachten wurde im Auftrag des Sachverständigenrates für Verbraucherfragen (SVRV) von einer interdisziplinären Expertengruppe aus Juristen und Informatikern der Gesellschaft für Informatik e.V. zwischen November 2017 und August 2018 erstellt. Es vereint technische und rechtliche Betrachtungen von ADM-Verfahren mit ihren zugrundeliegenden Systemen und gibt der Politik konkrete Handlungsempfehlungen an die Hand.
Quelle: Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren