Vertrauenswürdige KI: Man erntet, was man sät 

In diesem Artikel lesen Sie,

• warum Künstliche Intelligenz vertrauenswürdig sein muss,
• welche Voraussetzungen und Leitlinien es dafür gibt
• und wie die Telekom Kunden dabei unterstützt, ihre Anwendungen entsprechend zu gestalten.

Vorsorgeuntersuchungen sind wichtig – oft aber auch aufwendig und lästig. Denn einen Termin bei einer Fachärztin oder einem Facharzt zu bekommen dauert. In ländlichen Gegenden ist eine Praxis im näheren Umkreis oft gar nicht vorhanden. Digitale Lösungen für das Gesundheitswesen sollen hier entlasten. Etwa wenn wir für ein Hautscreening nur noch eine App und unser Smartphone benötigen: Bilder machen, ein paar Fragen online beantworten und die Daten verschicken – fertig. Die Verarbeitung und Auswertung der Informationen übernimmt eine Künstliche Intelligenz (KI), die anschließende Diagnostik und eventuelle Therapieempfehlungen medizinische Fachkräfte.

Ein einfacher und unkomplizierter Service, der die medizinische Versorgung stark verbessern kann – vorausgesetzt, Patientinnen und Patienten nehmen das Angebot an. Erforderlich dafür: Sie müssen dem Dienst vertrauen. In Bezug auf Datenschutz und Sicherheit, aber auch im Hinblick darauf, dass die Künstliche Intelligenz mindestens genauso gute Entscheidungen trifft wie eine Ärztin oder ein Arzt. Neben der Frage nach dem Hosting-Standort bei cloudbasierten Lösungen oder dem Einhalten der DSGVO geht es also darum, wie die KI zu ihrem Urteil oder ihren Entscheidungen kommt, und ob sie zuverlässige und robuste Ergebnisse liefert.

Dafür brauchen die intelligenten Algorithmen geeignete Grundlagen und müssen Muster erkennen können. Außerdem müssen sie so geschult werden, dass sie vorurteilsfrei und differenziert bewerten – ganz nach dem Motto: „Man erntet, was man sät“. Ausgangsbasis ist das Datenmaterial, mit dem das digitale System seine Fähigkeiten trainiert. Wichtig ist hierbei zum einen die Qualität der Daten für das maschinelle Lernen. Die Informationen müssen präzise, hochwertig und – je nach Anwendungsbereich – divers und breitgefächert sein.

Ebenso wichtig ist, dass beim Data Labeling, dem Erkennen und Markieren von Mustern in der Datenvor- und -aufbereitung für die Erstellung einer KI, hohe und präzise Standards eingehalten werden. Denn nur dann kann der Algorithmus sie identifizieren. Beispiel Gesichtserkennung: Hier kann die Künstliche Intelligenz nur dann die gewünschten Ergebnisse liefern, wenn sie mit entsprechend umfassenden Datensätzen trainiert wurde. So muss etwa ein System, das zunächst für die Gesichtserkennung Erwachsener konzipiert wurde, nachtrainiert werden, wenn es auf Kinder erweitert werden soll.

Hinzu kommt: Künstliche Intelligenzen treffen Entscheidungen von teils enormer Tragweite. Umso wichtiger ist es, dass ihnen Maßstäbe zugrunde liegen, die ethischen und moralischen Grundsätzen entsprechen. Demnach brauchen wir Standards, Leitlinien, Normen und Sicherheit für den gesamten Lebenszyklus einer KI.

Damit hat sich unter anderem die EU-Kommission in ihren „Ethik-Leitlinien für eine vertrauenswürdige KI“ auseinandergesetzt. Diese liegen auch dem Artificial Intelligence Act zugrunde, für den die Kommission im April 2021 einen Entwurf vorgelegt hat. In ihren Leitlinien geht die Kommission von drei Komponenten aus, die während des gesamten Lebenszyklus eines KI-Systems erfüllt sein müssen.

So soll KI …

a) … rechtmäßig sein und somit alle anwendbaren Gesetze und Bestimmungen einhalten.

b) … ethisch sein und somit die Einhaltung ethischer Grundsätze und Werte garantieren.

c) … robust sein, und zwar sowohl in technischer als auch sozialer Hinsicht, da KI-Systeme selbst bei guten Absichten unbeabsichtigten Schaden anrichten können.

Erst das Zusammenspiel dieser drei Komponenten mache die Systeme vertrauenswürdig.

KI-Experten zufolge kommen zusätzliche Faktoren hinzu: Eine KI muss transparent und erklärbar sein. Man muss nachvollziehen können, wie sie zu ihren Entscheidungen kommt. Ein gutes Beispiel ist die Kreditvergabe, die auf solchen Algorithmen basiert. Wird ein Kreditantrag abgelehnt, hat das massive Auswirkungen auf das Leben der Betroffenen. Sie müssen verstehen können, warum. Und was sie tun können, um in Zukunft ein Darlehen zu erhalten.

Der AI Act der EU schafft zudem erstmals einen regulatorischen Rahmen mit weltweiter Rechtskraft, in dem festgehalten ist, was eine Künstliche Intelligenz darf und was nicht. Dazu teilt er KI-Anwendungen unter anderem über ein Stufensystem in verschiedene Risikoklassen ein.

• Bei einem inakzeptablen Risiko kommt eine KI-Lösung dem AI Act zufolge nicht infrage – darunter fällt zum Beispiel Social Scoring von Regierungen.
• Zeigt sich ein hohes Risiko, muss die KI bestimmte Anforderungen erfüllen. In diese Kategorie fallen unter anderem alle Lösungen, die mit dem autonomen Fahren zu tun haben – denn hier kann es darum gehen, Menschenleben zu schützen.
• Weniger kritisch sieht der AI Act Anwendungen, bei denen ein begrenztes Risiko besteht – hierunter fallen beispielsweise Chatbots.
• An vierter Stelle rangieren KI-Lösungen mit minimalen Risiken (zum Beispiel bei Videospielen).

Unternehmen wie die Telekom geben sich zudem selbstbindende ethische KI-Leitlinien. Dafür folgt sie etwa seit 2018 Regeln und Grundlagen zur digitalen Ethik. Die Telekom setzt bereits bei der Entwicklung der eigenen Compliance-Richtlinien die Datenschutz-Grundverordnung, die EU-Guidelines oder den AI Act um. Außerdem sind Datenschutzfragen und die Auseinandersetzung mit möglicher antrainierter Voreingenommenheit der KI bei der Datenerhebung entscheidend. Ebenso wichtig: das Thema Sicherheit. Denn eine vertrauenswürdige KI muss vor Hackerangriffen oder Missbrauch geschützt sein und die geforderten Standards dauerhaft einhalten können.

Mit ihrem umfassenden Infrastructure-as-a-Service-Angebot aus der Open Telekom Cloud bietet die Telekom ihren Kunden zudem die passende sichere und datenschutzkonforme Basis für vertrauenswürdige cloudbasierte KI-Anwendungen. So erfüllt die Open Telekom Cloud unter anderem die Anforderungen des BSI für ein Testat nach dem „Kriterienkatalog für KI-Cloud-Dienste – AIC4“. Auch ist in Zukunft geplant, Verfahren zur Entwicklung vertrauenswürdiger KI in MLOps-Tools zu integrieren. Und die Telekom bietet ihren Kunden nach AIC4 geprüfte KI-Lösungen an. Beispielsweise die smarten Sprach- und Chatbots der „Conversational AI Suite“.

Doch was genau können Cloud-Infrastrukturen und -Plattformen für Entwicklung, Training, Testen und Betrieb von Künstlicher Intelligenz leisten? Antworten darauf gibt die Benchmark-Studie von Cloud Mercato. Die Analysten haben die Angebote von AWS, Microsoft Azure, Google Cloud sowie der Open Telekom Cloud verglichen. Gemessen haben sie dabei die GPU- und CPU-Leistungen sowie KI-Kapazitäten der Cloud-Anbieter. Außerdem bieten sie eine Preis-Leistungs-Übersicht – so lässt sich nachvollziehen, wieviel man für eine KI-Installation investieren muss.