Menschliche Aufsicht von KI? Ja – aber richtig!

Die KI-Verordnung ist ein von der EU vorgeschlagenes Gesetz zur Regulierung künstlicher Intelligenz (KI). Es ist weltweit das erste Gesetz zu KI von einer bedeutenden Regulierungsbehörde. Es soll sichere KI-Systeme für Anwendungen mit hohem Risiko gewährleisten, beispielsweise beim Scannen von Lebensläufen oder bei medizinischen Entscheidungsfindungen. Das Gesetz stützt sich hierzu auf menschliche Überwachung der KI, diese ist jedoch nicht immer zuverlässig. Ein neu erschienener ZEW policy brief betrachtet Vor- und Nachteile der menschlichen Aufsicht und bietet Lösungsansätze.

„Es gibt zunehmend mehr empirische Hinweise darauf, dass eine Aufsicht durch Menschen nicht immer zuverlässig ist. In vielen Fällen kann der Mensch die Qualität von algorithmischen Empfehlungen nicht genau einschätzen und daher schädliches Verhalten nicht verhindern“, sagt ZEW-Digitalökonom Johannes Walter aus dem ZEW-Forschungsbereich „Digitale Ökonomie“.

Er schlägt im neuen ZEW policy brief daher drei Möglichkeiten vor, dieses Problem zu lösen:

1. Überarbeitung von Artikel 14 der KI-Verordnung, sodass er anerkennt, dass menschliche Aufsicht kein Allheilmittel ist und scheitern kann.
2. Empirische Tests für die Machbarkeit und Effektivität menschlicher KI-Aufsicht in der KI-Verordnung vorsehen.
3. Feedback für menschliche Entscheidungsträger/innen, um aus vergangenen Entscheidungen zu lernen und künftige Entscheidungen zu verbessern.