Fachgruppe Künstliche Intelligenz in Anwendungen (KIA)
Unser Tun berücksichtigt dabei immer die folgenden Leitlinien im Sinne eines moralischen Kompasses:
Verantwortliche KI
KI-basierte Systeme können Tätigkeiten automatisieren, die bislang Personen ausgeführt haben und dabei Massendaten automatisiert verarbeiten. Dabei sind immer moralische und gesellschaftliche Werte zu berücksichtigen sowie gesetzliche Bestimmungen zu erfüllen. KI-Systeme sollten daher immer unter menschlicher Aufsicht ausgeführt werden und nicht die Autonomie von Personen verringern, beschränken oder fehlleiten. KI-basierte Systeme und die hierfür erforderlichen Personen-bezogenen Daten sollten nicht dazu verwendet werden, Personen zu schädigen oder zu diskriminieren.
Nachvollziehbare KI
KI-basierte Systeme werden immer komplexere und anspruchsvollere Tätigkeiten ausführen und ggf. auch Entscheidungen treffen können, die bisher von Personen gemacht wurden. Es ist daher erforderlich, dass KI- basierte Systeme nicht nur verlässlich ihre Aufgaben erbringen, sondern auch nachvollziehbar protokollieren, wie und warum Entscheidungen getroffen wurden.
Nutzer-zentrierte KI
KI-basierte Systeme können wesentlich kollaborativere und personalisiertere Interaktion mit Maschinen ermöglichen. Dabei sind aber immer die Grenzen gesellschaftlich akzeptierter Bedien- und Nutzungskonzepte zu beachten.
Sichere KI
KI-basierte Systeme sollten auf Algorithmen beruhen, die sicher, verlässlich und robust sind, um Fehler oder Unstimmigkeiten in allen Phasen des Lebenszyklus des KI-Systems zu bewältigen.
