Symposium „KI und Soziale Arbeit“

🔊 Beitrag vorlesen

Am Abend des 15. Mai 2025 trafen sich im Rahmen einer Veranstaltung des forum sociale, des Katholischen Büros Mainz und der Clearingstelle Medienkompetenz in der Aula der Katholischen Hochschule Mainz Expert:innen aus Wissenschaft und Forschung, um mit den über 60 Gästen über KI und Soziale Arbeit, die Chancen, Herausforderungen und Risiken in diesem Themenfeld zu diskutieren.

Prof.in Dr. Nicole Biedinger vom forum sociale der Katholischen Hochschule Mainz eröffnete die Veranstaltung mit einem Experiment. Ihre Begrüßungsrede hatte sie sich von ChatGPT schreiben lassen. Die Rede wirkte verblüffend „echt“ und so KI- bzw. selbstkritisch, dass die Teilnehmenden kaum feststellen konnten, wann das KI-Zitat endete und die Vorsitzende des forum sociale wieder selbst sprach. Lediglich eine namentlich benannte  Mitarbeiterin der Hochschule hatte die KI halluziniert, was nur den Kolleg:innen der KH auffallen konnte.

Prof. Dr. Nils Köbel, Professor für Pädagogik an der KH Mainz, begrüßte die Expert:innen: Prof.in Dr. Doris Aschenbrenner, Professorin für „Human in Command“ an der Hochschule Aalen, Prof. Andreas Büsch, Leiter der Clearingstelle Medienkompetenz der Deutschen Bischofskonferenz und Professor für Medienpädagogik und Kommunikationswissenschaft an der KH Mainz, sowie Dr. Nora Schleich, Programmkoordinatorin und Konzeptgestalterin EwB Luxemburg. Der Moderator erläuterte das Format der Veranstaltung: In einem sogenannten Fishbowl-Setting nehmen die Expert:innen auf dem Podium Platz, auf dem ein Stuhl frei bleibt für Teilnehmende, die sich jederzeit mit ihren Fragen und Beiträgen in die Diskussion einbringen konnten.

Was ist KI, was kann sie und was kann sie nicht?

Nils Köbel eröffnete die Diskussion mit dieser Frage. Die Informatikerin Doris Aschenbrenner erklärte, dass es keine eindeutige Definition von KI gebe. Letztlich sei KI nur ein „dummes Programm“ in einer „Kiste mit vielen Drähten“, das auf sehr guter Mathematik basiert. In der Industrie 4.0 könne sie tatsächlich viele Aufgaben, die einst von Menschen erledigt wurden, effizient meistern. Ein Beispiel hierfür ist ihr Projekt zur Sortierung von Plastikmüll. In einem anderen Projekt in der Pflege hat Aschenbrenner jedoch auch gelernt, dass KI zwar Abläufe verbessern, die Nähe und Berührung durch einen Menschen, beispielsweise beim Pulsfühlen oder Blutdruckmessen, aber niemals ersetzen kann und auch nicht sollte.

Die Philosophin Nora Schleich führt das Bestreben des Menschen, eine ihm ähnliche Maschine zu bauen, auf seine immanente Sehnsucht nach Anerkennung und Liebe zurück. Der Mensch bleibe jedoch, im Gegensatz zur Maschine, „ein Mysterium mit Unverfügbarkeiten“, das ihn als Menschen ausmache. Sie warnt davor, dass alles, was wir digital tun, kartografierbar und damit kontrollierbar ist. Daten würden permanent erfasst und ausgewertet. Dies in Bezug auf vulnerable Menschen zu tun, hält sie für „perfide und ethisch verwerflich“.

Die Haltung der Technikerin Aschenbrenner dazu ist keineswegs konträr. Sie hält eine Begrenzung der KI für unabdingbar, wie sie mit dem EU AI Act bereits vorgenommen wurde. Aschenbrenner arbeitet gemeinsam auch mit Ethiker:innen an einer Normierung der EU, die 2026 fertiggestellt sein soll. Nicht die Technik an sich sei das Böse, „sondern das, was wir damit machen“. Aschenbrenner vertraut auf die Menschen und blickt optimistisch in eine Zukunft, in der die Technikzentriertheit der vergangenen Jahre in den Hintergrund tritt und die Welt des Analogen, „Echten, nicht KI-generierten“, wieder mehr an Bedeutung gewinnt.

Chancen und Risiken von KI

Eine Teilnehmerin nimmt in der Fishbowl Platz und äußert ihre Bedenken, dass etwa 80 % derjenigen, die KI programmieren, Männer sind. Sie fragt sich, ob dadurch nicht Fehler gemacht und Frauen diskriminiert werden. Nora Schleich entgegnet, dass Diskriminierung auf Fehlern basiert, die bereits vorab im Analogen gemacht wurden. „KI ist nur so gut wie die Daten und der Code“, sagt sie. „Die Welt ist komplizierter als das, was programmiert wird“, bestätigt Doris Aschenbrenner. Sie betont die Notwendigkeit von Diversität und Interdisziplinarität bei der Entwicklung, Programmierung und Begrenzung von KI.

Ob ein Chatbot nicht in der Beratung unterstützen könne, so die Frage eines Pädagogikstudenten in der Fishbowl. Und ließe sich dafür nicht eine KI programmieren, die jenseits der Interessen von Tech-Oligarchen arbeitet? Angesichts knapper werdender Ressourcen und des damit verbundenen Handlungsdrucks wäre das in der „besten aller Welten“ wünschenswert, so Andreas Büsch. Doris Aschenbrenner verweist jedoch darauf, dass für eine solche Programmierung jenseits der großen Player schlicht die finanziellen Mittel in sozialen Feldern kaum zur Verfügung stehen dürften. Und Nora Schleich entlarvt das Narrativ, dass eine KI könne, was ein Mensch kann.

KI und Soziale Arbeit? KI kann Beziehung nur simulieren

Andreas Büsch steht der KI angesichts zahlreicher Fehler und politischer, sozialer, ethischer und ökologischer Fragen skeptisch bis kritisch gegenüber. Das dürfe aber keine Ausrede sein, um sich nicht mit KI auseinanderzusetzen. Für die Soziale Arbeit sieht er Anwendungsmöglichkeiten vor allem in der Arbeitsorganisation, Administration, Datenauswertung und im Erstellen von kleineren Texten wie z. B. Teasern für Social Media oder Zusammenfassungen. Allerdings verwahrt er sich gegen eine „naive Nutzung“ von KI. Ihren Output gilt es immer kritisch zu prüfen. Schließlich steht hinter der KI ein digitaler Kapitalismus, dessen Interessen man sich bewusst sein muss. In der Arbeit mit Klient:innen ebenso wie bei kreativen Prozessen kann KI eine Unterstützung sein. Keinesfalls aber sollte KI die Beziehungsarbeit – als Kern sozialarbeiterischer Profession – übernehmen dürfen, so Büsch, weil sie Beziehung nur aufgrund entsprechender Programmierung simulieren kann.

Denn schließlich gehe es beim Einsatz von KI in der Sozialen Arbeit – wie ein Teilnehmender aus der praktischen Arbeit in der Fishbowl treffend bemerkte – nicht in erster Linie um das Wohl der Klient:innen, sondern um ihre „Marktförmigkeit“, d. h. ihr Funktionieren in unserer kapitalistischen Gesellschaft.
Soziale Arbeit ist Hilfe zur Lebensbewältigung, die auf Interaktion und Beziehungsarbeit beruht. Beziehungsarbeit an die KI zu delegieren, beispielsweise in einem kritischen Notfall in der Seelsorge, ist gefährlich. KI kann soziale Arbeit unterstützen. Eine Beziehung zum Menschen aufbauen kann sie nicht, sie kann sie nur simulieren. Rat geben und wirklich helfen auf der Grundlage von Emotionen und Empathie kann die Maschine nicht. Das ist und bleibt dem Menschen in seiner einzigartigen Würde vorbehalten.