Locations
1. Das unbestrittene Potenzial von Künstlicher Intelligenz im öffentlichen Sektor
Künstliche Intelligenz bietet eine Vielzahl von Möglichkeiten, um Prozesse im öffentlichen Sektor effizienter und effektiver zu gestalten. Das ist nicht erst seit dem bahnbrechenden Erfolg von ChatGPT von OpenAI klar, aber die Anwendung hat für viele Menschen KI greifbar und verständlich in ihren Potenzialen gemacht.Beispiele für den Einsatz von KI-Anwendungen sind die Automatisierung von Verwaltungsaufgaben, die Analyse großer Datenmengen zur Entscheidungsfindung oder die Verbesserung der Kommunikation zwischen Bürgern, Unternehmen und Behörden. Aber das ist erst der Anfang: Welche Potenziale Ki tatsächlich für die Entwicklung im öffentlichen Sektor hat ist noch kaum zu überblicken.
Über diese Potenziale werde ich noch gesondert in einzelnen Beiträgen berichten.
2. Fünf große Herausforderungen für den Einsatz von KI
Trotz des großen Potenzials von KI gibt es auch rechtliche und ethische Herausforderungen, die berücksichtigt werden müssen. Dazu zählen unter anderem Fragen des Datenschutzes, der IT-Sicherheit, der Haftung und der Transparenz von Entscheidungen, die durch KI-Systeme getroffen werden.2.1 Datenschutz und IT-Sicherheit
Ob Ministerium, Behörde, Gemeinde, Universität oder öffentliches Unternehmen; Überall werden derzeit mutige Beamte und Angestellte davon träumen, auch im öffentlichen Dienst KI in großem Umfang einzusetzen und zu erproben (oder, wenn dies sogar schon erfolgt, den Einsatz noch zu steigern). Doch jede Einheit muss sich klarmachen, dass es eine Reihe von großen rechtlichen Themen gibt, die vor dem Einsatz von KI zu klären sind. Zu den bedeutendsten gehören Fragen des Datenschutzes und der IT-Sicherheit.Der Schutz personenbezogener Daten ist im öffentlichen Sektor von besonderer Bedeutung. KI-Systeme müssen daher so gestaltet sein, dass sie den Anforderungen der Datenschutz-Grundverordnung (DSGVO) entsprechen. Zudem ist die IT-Sicherheit von KI-Anwendungen von großer Bedeutung, um Cyberangriffe und den Missbrauch von Daten zu verhindern. Denn wenn Ki große Datenmengen verarbeitet, wird sie ein beliebtes Ziel für Cyberangriffe von außen sein.
2.2 Haftung
Die Frage der Haftung bei Fehlentscheidungen oder Schäden, die durch den Einsatz von KI entstehen, ist noch nicht abschließend geklärt. Es bedarf klarer Regelungen, wer in solchen Fällen haftet – der Betreiber des KI-Systems, der Entwickler oder möglicherweise sogar das KI-System selbst.Für den öffentlichen Sektor stellt sich die Frage natürlich in ganz besonders hohem Maße, denn ergehen Entscheidungen von Ministerien oder Behörden, die nach außen Unternehmern oder Bürger belasten, so wird selbstverständlich zunächst die öffentliche Stelle Ansprüchen ausgesetzt sein. Aber kann die öffentliche Stelle sich dann schadlos halten bei dem Anbieter des KI-Systems? Wie sieht die Staatshaftung aus bei fehlerhaftem Einsatz von KI - welche Verantwortung haben vielleicht sogar die einzelnen Beamten bzw. Angestellten? Auch diese Haftungsfragen sollten betrachtet werden, bevor Ki in der öffentlichen Verwaltung zum Einsatz kommt.
2.3 Transparenz von Entscheidungen
Entscheidungen, die von KI-Systemen getroffen werden, sollten für die betroffenen Personen nachvollziehbar sein. Dies stellt eine Herausforderung dar, insbesondere bei komplexen Algorithmen, deren Entscheidungsfindung für Menschen schwer verständlich ist.So einfach das im Kern klingt, so bedeutsam ist dies im öffentlichen Sektor. Angenommen, ein Bürger erklärt sich nicht für einverstanden mit Verwaltungsentscheidungen, die von einer KI vorbereitet werden (nicht einmal getroffen werden), etwa, indem er Widerspruch bzw. Klage gegen belastende Verwaltungsakte erhebt, die mit der Ki vorbereitet werden, dann stellen sich vielfältige Folgefragen. Im Widerspruchs- und Klageverfahren hat der Bürger dann einen Anspruch auf Akteneinsicht - und Anwälte werden weiter fordern, dass die Algorithmen, die der Ki-Entscheidung zugrunde lagen, offengelegt werden. Selbst außerhalb von solchen Verfahren könnten Informationsansprüche nach Bundesgesetzen oder Landesgesetzen geltend machen - wie soll damit umgegangen werden? Müssen die Algorithmen wirklich offengelegt werden, sollen sie es - kann das sogar sinnvoll sein, um nachzuweisen, dass die KI-Prozesse nicht von Diskriminierung bzw. Vorurteilen geprägt sind? Das sind Fragen, zu denen sich der öffentliche Sektor verhalten muss.