Constantin Jacob, Leiter Recht & Regulierung und Verbandsjustiziar im Customer Service & Call Center Verband Deutschland e. V. (CCV)
Update: Im Rahmen des sogenannten Trilogs hatten sich EU-Kommission, EU-Mitgliedstaaten und EU-Parlament am 08.12.2023 nach langwierigen Verhandlungen grundsätzlich über den AI Act geeinigt. Am 21.01.2024 wurde ein entsprechend verhandelter Text geleakt. In diesem Dokument werden auf fast 900 Seiten tabellarisch die Positionen der Verhandlungsparteien sowie der verhandelte Text in englischer Sprache dargestellt. Anfang Februar stimmten auch Vertreter der EU-Staaten dem Vorschlag formell zu. Am 13.03.2024 beschloss schließlich das Europäische Parlament mit dem AI Act die erste staatliche KI-Regulierung weltweit.
Die EU möchte die Digitalisierung vorantreiben, um im globalen Wettbewerb zu bestehen. Im Rahmen dieser Bestrebungen stellte sie im Februar 2020 ihre Digitalstrategie vor. Ein zentraler Eckpfeiler dieser Strategie ist der „Artificial Intelligence Act“ (Volltext des Entwurfs in deutscher Sprache), welcher Fragestellungen der Künstlichen Intelligenz (KI) regelt. Nach Login informiert der CCV über geplante Inhalte dieser EU-Verordnung (siehe auch unten im Bereich „Wissen“). Weitere europäische Themen (z. B. der Brexit sowie branchenrelevante EuGH-Entscheidungen) finden Sie auf der CCV-Themenseite „Europapolitik“ aufbereitet.
Am 16. März 2022 wurde die EU-Verordnung zur künstlichen Intelligenz im Ausschuss für Digitales des Deutschen Bundestags erörtert:
Klicken Sie auf den unteren Button, um den Inhalt von webtv.bundestag.de zu laden.
An dieser Stelle können Sie die Kurzmeldung des Deutschen Bundestags abrufen.
Am 14. Juni 2023 wurde der AI Act vom Europäischen Parlament angenommen (EU-Themenseite). Der Text muss nun im sogenannten Trilog mit der EU-Kommission und den Mitgliedstaaten abgestimmt werden, bevor er offiziell in Kraft tritt. Bis zum Jahresende sollte eine Einigung gefunden werden. Anschließend haben die Unternehmen zwei Jahre Zeit, um sich an die veränderten Rahmenbedingungen anzupassen.
Einordnung:
Die vergangenen Monate waren bei der KI von öffentlichkeitswirksamen Durchbrüchen geprägt, die das enorme Potenzial dieser Technologie vor Augen führten. Exemplarisch dafür steht generative KI wie ChatGPT, stehen aber auch die Fortschritte etwa im Bereich KI-generierter Bilder (bspw. Mindjourney). Mit dieser Entwicklung geht natürlich auch Missbrauchspotenzial einher, beispielhaft das kürzlich veröffentlichte Bild von Papst Franziskus im weißen Wintermantel. Deepfakes etwa stellen eine Gefahr dar. Ebenso biometrische Gesichtserkennung in Echtzeit im öffentlichen Raum und Social Scoring, wie es in der VR China betrieben wird. Auch ergeben sich urheberrechtliche Fragen. Trotz dieser Bedenken ist KI in sehr vielen Bereichen der Wirtschaft die Zukunft und die Wettbewerbsfähigkeit Deutschlands und Europas hängt auch von der künftigen Regulierung durch den AI Act ab. Denn ein Übermaß an Regulierung wird die Wettbewerbsfähigkeit dieser Region hemmen, wegweisende Entwicklungen und wettbewerbsstärkende Anwendungen fänden woanders auf der Welt statt. Sprich: In welcher Art und Weise Europa die KI reguliert, wird ein entscheidender Faktor für die künftige Wettbewerbsfähigkeit unseres Kontinents sein.
Strenge Auflagen, gar Verbote, wie sie teilweise im Europäischen Parlament diskutiert wurden, würde die Entwicklung der KI nicht etwa bremsen, sondern hätten ausschließlich zur Folge, dass diese in anderen Teilen der Welt stattfindet und Europa bei dieser Technologie abgehängt würde.
Das anfangs genannte Deepfake-Beispiel verdeutlicht: KI braucht natürlich Regulierung, jedoch muss der AI Act v. a. jene Anwendungen praxis- und entwicklungsorientiert regulieren, die ein potenziell hohes Risiko in sich birgen. Pauschale Vorgaben ohne Differenzierung oder nicht praxistaugliche, ausufernde Klassifizierungen als Hochrisikoanwendung, sprich eine zu weite Fassung der Definition, helfen nicht und würden Forschung und Entwicklung dieser Technologie und darauf basierender Geschäftsmodelle auf andere Kontinente verlagern. Unkritische Anwendungen und solche mit einem mäßigen Risiko dürfen keine übertriebenen Hürden erfahren. Dies scheint aktuell auch – vorbehaltlich des Trilogs – Mehrheitsmeinung in der EU zu sein. Der AI Act muss sich zudem an bereits bestehende datenschutz-, wettbewerbs- und urheberrechtliche Maßgaben orientieren, er darf folglich keine Widersprüche und Rechtsunsicherheiten schaffen und muss rechtlich sowie sprachlich klare, praxistaugliche Regeln beinhalten.
Innovativer Kundendialog bedeutet, dass der Kunde freie Kanalwahl hat, zu jeder Zeit und losgelöst von seinem Anliegen. Innovativer Kundendialog bedeutet nicht, dass Hotlines und E-Mail-Optionen abgeschafft werden und mit dem Kunden nur noch über Social Media, im Chat oder im Messenger kommuniziert wird. KI rückte hierbei in den letzten Jahren mit zunehmender Rechenleistung und zunehmendem Training der Systeme auch im Customer Service immer stärker in den Fokus.
Dank KI und Digitalisierung sind bereits einfache Prozesse von der persönlichen, individuellen Bearbeitung durch einen Menschen in technische Lösungen überführt worden. Doch gilt dies nach wie vor fast nur für ausschließlich grundlegende Prozesse. Klassische Call- und Contactcenter-Dienstleistungen basieren auf Mensch-zu-Mensch-Interaktionen. Das wird sich so schnell nicht ändern. Gerade wenn es um Kundenbindung geht, ist die heute verfügbare Technologie noch am Anfang. Ein gutes, individuelles und emphatisches Gespräch wird auch mittelfristig nur ein Mensch führen können. Denn der Mensch ist ein soziales Wesen und bevorzugt mehrheitlich noch immer den persönlichen Kontakt. Darum wird gerade bei komplexen Fragestellungen, zum Beispiel zu Verträgen und technischen Problemen, KI die Kolleginnen und Kollegen am Telefon, in Chats und in der E-Mail-Kommunikation noch nicht ersetzen. Vielmehr steigen gar die fachlichen und empathischen Anforderungen an die Mitarbeitenden.
Zur Unterstützung der Arbeitnehmerinnen und Arbeitnehmer im Kundenservice sowie beim Erstkontakt und bei automatisiert zu bewältigenden Aufgaben ist KI jedoch nicht mehr wegzudenken und wird in Zukunft weiter an Bedeutung gewinnen. Aus diesem Grund ist unser Wirtschaftszweig zu einem Treiber bei der Entwicklung von KI-Lösungen geworden und der Ausbau der digitalen Infrastruktur ist für den Customer Service von großer Relevanz.
