COM (2018) 795 final
Punkt 38 der 974. Sitzung des Bundesrates am 15. Februar 2019
Der Bundesrat möge zu der Vorlage gemäß §§ 3 und 5 EUZBLG wie folgt Stellung nehmen:
- 1. Der Bundesrat nimmt zur Kenntnis, dass die Kommission mit der vorliegenden Mitteilung vom 7. Dezember 2018 die Ankündigung aus ihrer am 25. April 2018 vorgelegten Mitteilung "Künstliche Intelligenz für Europa" (BR-Drucksache 158/18 (PDF) ) einlöst, bis Ende 2018 gemeinsam mit den Mitgliedstaaten einen koordinierten Plan für die Entwicklung und Nutzung künstlicher Intelligenz "Made in Europe" auszuarbeiten.
- 2. Der Bundesrat begrüßt, dass die Kommission die Entwicklung einer ethischen, sicheren und hochmodernen künstlichen Intelligenz (KI) in der EU anstrebt und hierzu eine hochrangige Expertengruppe eingesetzt hat, die unter dem Titel "Ethikleitlinien für eine vertrauenswürdige künstliche Intelligenz" am 18. Dezember 2018 ein Konsultationspapier vorgelegt hat. Hierin werden Grundrechte, Grundsätze und Werte dargelegt, die bei der Entwicklung, dem Einsatz und der Nutzung von vertrauenswürdiger KI beachtet werden müssen, sowie Methoden der technischen und nichttechnischen Implementierung und Bewertung der Umsetzung vorgestellt. Unter anderem sollen bei dem gewählten "menschenzentrierten" Ansatz die Menschenrechte und ethischen Grundsätze wie Unverletzlichkeit des Menschen, Fairness und Transparenz wichtige Elemente eines integrierten europäischen Inlandsmarkts für Produkte, Dienste und Anwendungen sein.
- 3. Der Bundesrat weist darauf hin, dass die Kommission sich mit dem Einsatz von künstlicher Intelligenz bei der Bearbeitung von Rechtssachverhalten ("Legal Tech") in ihren Mitteilungen vom 25. April 2018 und 7. Dezember 2018 inhaltlich nicht auseinandersetzt. In den Ethikleitlinien der hochrangigen Expertengruppe findet "Legal Tech" ebenfalls keine Erwähnung. Dabei hat diese in der Justiz, der Anwaltschaft und den sonstigen Rechtsdienstleistungen zunehmend eingesetzte Technologie, gerade im Lichte der angestrebten Vertrauenswürdigkeit von KI, eine wichtige Bedeutung.
- 4. Zwischen der erwünschten Unterstützung bei der Analyse und Entscheidung rechtlicher Fragen durch "intelligente" Software auf der einen und möglichen Fehlentwicklungen der autonomen Behandlung solcher Sachverhalte durch Maschinen auf der anderen Seite liegen viele - bislang ungeklärte - spezifische rechtliche und ethische Fragen, die der besonderen Aufmerksamkeit der politischen Verantwortlichen bedürfen. Dies gilt umso mehr, als die zu schaffenden Ethikleitlinien ausweislich der Mitteilungen der Kommission und des koordinierten Plans "globale Ethik-Standards setzen und eine weltweit führende Rolle im Bereich der ethischen und vertrauenswürdigen KI übernehmen" sollen. Es liegt auf der Hand, dass zu den in den Vorlagen erwähnten "Bereichen öffentlichen Interesses" Gesundheit, Verkehr und Mobilität, Sicherheit und Energie, Fertigung und Finanzdienstleistungen ebenso eine technologisch sinnvoll unterstützte, ethisch einwandfreie, unabhängige und von wirtschaftlichen oder sonstigen sachfremden Erwägungen unbeeinflusste Justiz gehört.
- 5. Der Bundesrat weist darauf hin, dass sich der Europarat durch seine Kommission für die Effizienz der Justiz (CEPEJ) des Themas zu einem frühen Zeitpunkt angenommen und am 4. Dezember 2018 eine "Europäische Ethik-Charta über den Einsatz künstlicher Intelligenz in Justizsystemen" vorgelegt hat.
- 6. Der Bundesrat übermittelt diese Stellungnahme direkt an die Kommission.