KI-Chatbot in der Jugendarbeit: Noch bleiben viele Fragen offen

Um das Fazit vorwegzunehmen: Ganz einfach ist es nicht. Oder, wie Studienleiter Olivier Steiner, Dozent am Institut Kinder- und Jugendhilfe der Hochschule für Soziale Arbeit FHNW, sagt: «Die Machbarkeitsstudie sollte viele Fragen beantworten, was sie auch tat. Allerdings hat sie auch viele neue Fragen aufgeworfen.»

Aber von Anfang an. Bei Überlegungen rund um den Einsatz von KI-Chatbots in der Jugendarbeit geht es zunächst darum zu klären: Was soll beziehungsweise darf die KI im Kontakt mit den Jugendlichen? Im Studiensetting war klar, dass die KI keine Beratungen übernehmen sollte. Wenn persönliche Probleme thematisiert wurden, sollte der Chatbot eine Kontaktperson der Schulsozialarbeit nennen, und zwar schulspezifisch.

Eigenständig antworten sollte der Chatbot, der zum Beispiel über Social Media erreichbar wäre, bei Fragen rund um Veranstaltungen, Öffnungszeiten oder Ähnliches.

Die nächste wichtige Grundsatzfrage: Welche technischen Systeme kommen zum Einsatz? Und hier wird es knifflig. Klar war von Beginn weg, dass angesichts der jugendlichen Nutzenden der Datenschutz grösstmöglich gewährleistet sein muss, wie Olivier Steiner betont: «Der Schutz der Persönlichkeit und der sensiblen Daten kommt für mich an erster Stelle. Das bedeutet, dass wir für die Soziale Arbeit eigene Lösungen brauchen.» Eigene Lösungen im Sinne von Open Source Modellen mit lokalen Servern, also in der Schweiz – anstelle von kommerziellen Modellen wie GPT-4.

Das Problem: Open Source Modelle sind, zumindest aktuell noch, deutlich weniger leistungsfähig. Was bei KI-Chatbots bedeutet, dass sie anfälliger sind für Fehler. Ein Umstand, der für Olivier Steiner und sein Team in dem Ausmass, das sich in der Testphase zeigte, überraschend war: «Dass das System falsche Antworten gibt und solche Unzuverlässigkeiten bestehen, damit hatten wir so nicht gerechnet. Gewisse Fehler konnten wir beheben, andere nicht.»

Folgendes Beispiel veranschaulicht eines der Probleme:

Die Frage eines Jugendlichen, der als Testperson involviert war: «Nenne mir paar Restaurant welche sich in der nähe von Barfüsserplatz befinden»

Der Chatbot hätte nun eigentlich antworten müssen, dass er nur für Fragen zur Jugendberatung und zu Veranstaltungen zuständig sei. Er wollte aber offensichtlich helfen und nannte einige Restaurants. Allerdings solche, die in Basel gar nicht existieren, weder beim Barfüsserplatz noch sonst irgendwo. Er halluzinierte also:

Antwort: Vielen Dank. Hier sind einige Restaurants in der Nähe von Barfüsserplatz:
Morfroisterei Glarus, Adresse: Renzi-Pfister-Platz 4, 4001 Basel, Telefon: +41 79 589 34 79.
Crepuscule, Adresse: Barfüsserplatz 14, 4001 Basel, Telefon: +41 79 549 28 86.
La Cantine, Adresse: Sibylla-Helfrich-Strasse 21, 4001 Basel, Telefon: +41 79 458 24 57

Hinzu kommen, wieder mit Blick auf eine praxistaugliche Umsetzung, sprachliche Herausforderungen, damit der Chatbot auch jugendliche Ausdrucksweisen und Schweizerdeutsch versteht. Denn gerade in der Arbeit mit Jugendlichen ist es wichtig, eine möglichst alltagsnahe Interaktion zu erreichen.

Momentan existiert jedoch kein schweizerdeutscher Open-Source-Trainingsdatensatz; das Modell müsste also manuell gefüttert werden, was nicht nur zeitlich aufwendig wäre, sondern auch hohe Kosten nach sich ziehen würde.

Überhaupt sind Kosten ein Thema, auch bei der Frage, wie viele Jugendliche zeitgleich den Chatbot nutzen können sollen. In der Textversion stürzte das System ab, sobald fünf Nutzende parallel Fragen stellten. Sollen also die Kapazitäten erhöht werden, schlägt das zu Buche. In der Studie gehen die Schätzungen von 2'500 CHF bei vier gleichzeitigen Nutzenden bis hin zu 25'000 CHF bei 40 parallelen Zugriffen.

Es ist vielleicht nicht der einfache Weg.

Olivier Steiner, FHNW

Dennoch: Das Studienteam kommt zum Schluss, dass der eingeschlagene Weg durchaus lohnenswert ist. «Es ist vielleicht nicht der einfache Weg», räumt Olivier Steiner ein. «Aber eigentlich müsste jede Soziale Arbeit diesen Weg gehen und sich mit den aufgeworfenen Fragen auseinandersetzen.»

Sicher ist, dass es weitere Abklärungen und Testverfahren bräuchte, bevor ein Pilot oder Prototyp tatsächlich eingesetzt werden könnte. Geschätzt wird vom Projektteam, dass dies innerhalb von 2 bis 3 Jahren und mit einem Budget von 150'000 bis 200'000 CHF machbar wäre. Die Initialentwicklung ist also hoch, danach wäre die Umsetzung einfacher. Und nicht zuletzt passiert auf dem Gebiet der KI so viel, dass auch die Open Source Modelle immer besser werden.

Für Olivier Steiner hängen die weiteren Möglichkeiten nicht zuletzt mit der Frage zusammen, ob der Innovationsgeist hierzulande gross genug ist: «Um ein solches Tool selber zu entwickeln – eben mit Technologie-, Daten- und Rechenautonomie – braucht es in der Schweiz Visionen.»

*

Das Projekt «Machbarkeitsstudie KI-Chatbot für die Offene Kinder- und Jugendarbeit» wurde von September 2024 bis Mai 2025 umgesetzt. Der Schlussbericht ist → hier einsehbar.