„Entscheidung muss beim Menschen bleiben“
Fachvortrag zu Künstlicher Intelligenz beim Rechtspflegerverband Baden-Württemberg
Wie funktioniert Künstliche Intelligenz (KI)? Welcher Rechtsrahmen ist zu beachten und wie können Rechtspflegerinnen und Rechtspfleger von der Technologie profitieren? Auf Einladung des Bundes Deutscher Rechtspfleger in Baden-Württemberg hat unser stellvertretender Vorsitzender Alexander Hannes einen Fachvortrag zu LegalTech und KI zur Unterstützung im Rechtspflegerbereich in Stuttgart gehalten.
Hannes erläuterte die grundlegende technische Funktionsweise generativer Sprachmodelle, die im englischen Fachterminus als Large Language Models (LLMs) bezeichnet werden und zu deren prominentesten Vertretern ChatGPT von OpenAI oder Gemini von Google gehören. Jedes dieser generativen Sprachmodelle verwende durch ein rechenintensives maschinelles Lernen (Training) mehrere Hundertmilliarden Parameter, um Texte zu generieren. LLMs erstellen Texte auf Basis von Wahrscheinlichkeiten, ohne deren Inhalt im menschlichen Sinne zu verstehen. Da Worte und Kontext berechnet, nicht aber inhaltlich interpretiert würden, könne KI keine Wertungen von Verfahrensbeteiligten vornehmen oder Kausalitäten beweisen, betonte unser stellvertretender Vorsitzender.
Die Möglichkeit zu Wort zu kommen, um Einfluss auf das Verfahren zu nehmen, gehöre jedoch zu den grundgesetzlich verbrieften Rechten eines fairen Verfahrens nach Art. 103 Abs. 1 GG. Darüber hinaus gestehe Art. 22 Abs. 1 DSGVO einer betroffenen Person das Recht zu, nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfalte oder sie in ähnlicher Weise erheblich beeinträchtige – gewissermaßen ein „Recht auf menschliche Entscheidung“.
„Daher ist es nur konsequent, LLMs im Rechtspflegerbereich als Assistenz- statt Entscheidungssysteme einzusetzen“, so das Fazit des Rechtspflegers. Unterstützen könne KI etwa bei der Aktenanalyse oder Textextraktion von Verfahrensinformationen, wie der Anzahl der Verhandlungstermine oder dem Streitwert. Denkbar wäre Anträge auf Grundbucheintragung oder Pfändungs- und Überweisungsbeschlüsse von KI vorprüfen zu lassen oder die Entscheidung von Kostenfestsetzungsbeschlüssen vorzubereiten. Auch die Rechtsantragstelle könne um einen strukturierten Chatbot ergänzt werden, um Parteivorträge zu strukturieren. „KI muss man als Werkzeug verstehen, das Routineaufgaben effizient erledigen, jedoch nicht alle Herausforderungen lösen kann“, erläuterte Hannes. KI-Systeme müssten zudem erst für die Justiz angepasst und trainiert sowie deren Ausgaben nachvollziehbar gemacht werden. Auf der anderen Seite könne KI auch missbraucht werden, etwa um Belege zu fälschen. Derzeit kursierten im Internet Beispiele, bei denen Bewirtungsbelege mit öffentlich zugänglichen Bilderdiensten manipuliert wurden.
Als Berufsverband sei es sinnvoll sich mit dem Thema zu befassen. Aufgrund der demographischen Entwicklung werde der schärfer werdende Wettbewerb um Nachwuchskräfte dazu führen, dass nicht mehr alle Stellen besetzt werden können. Steigende Personalkosten werden von Politik und Öffentlichkeit immer kritischer gesehen. Hannes informierte die Mitglieder des baden-württembergischen Landesverbands über die Entschließung unseres Delegiertentages zum Thema KI. Die Einführung eines KI-Vorverfahren („nullte Instanz“) lehne man genauso ab, wie eine Erhöhung der Arbeitspensen. „Der VBR begrüßt den unterstützenden Einsatz, Entscheidungen müssen jedoch der Rechtspflegerin oder dem Rechtspfleger vorbehalten bleiben“, verdeutlichte der stellvertretende Vorsitzende.
