Über künstliche Intelligenz reden gerade alle. Mario Göldi muss sie zum Laufen bringen – im Alltag einer Stadtverwaltung mit rund 800 Anwenderinnen und Anwendern, unter Amtsgeheimnis und Datenschutz und mit einer Technologie, die er nach eigener Aussage wöchentlich neu beurteilt. Der ICT-Leiter von Rapperswil-Jona ist seit vierzig Jahren in der Informatik und hält trotz aller Begeisterung an einem Satz fest: Am Ende bleibt der Mensch zentral. Im Gespräch erklärt er, wie eine Verwaltung auf wackligem Boden vorankommt, ohne den Halt zu verlieren.
Sie sind seit vierzig Jahren in der Informatik. 1985 stand der Internet-Einwahlknoten für die Region bei Ihnen in der Küche. Was hat sich seither verändert – ausser der Technik?
Als das Internet kam, hiess es überall: schön und gut, der Hype geht vorbei. Heute ist das Internet die Basis für alles – Cloud, Vernetzung, E-Mail, auch KI. Damals haben wir in der Küche 64 Modems installiert. Sie wurden so heiss, dass wir die Platinen aus den Gehäusen nehmen und auf ein Holzbrett mit Schlitzen legen mussten, damit sie nicht durchbrannten. Wir hatten eines der ersten Internetcafés der Schweiz. Das Schweizer Fernsehen sagte uns damals, eine E-Mail-Adresse pro Konzern reiche völlig.
Das Internet hat rund zwanzig Jahre gebraucht, bis es sich durchgesetzt hat. Bei der KI bin ich überzeugt: Das geht viel schneller. Ich vermute, dass sich die KI zu einem guten Teil selbst weiterentwickelt – anders liesse sich das Tempo gar nicht erklären.
Sie beurteilen KI-Tools fast wöchentlich neu und verwerfen auch Empfehlungen wieder. Wie führt man 800 Anwendende über einen so wackligen Boden?
Das passiert tatsächlich fast wöchentlich. Kaum sagst du, ein Produkt sei gut, kommt eine Woche später etwas Besseres. Aber wenn man immer auf das Beste wartet, fängt man nie an.
Für die Mitarbeitenden ist genau dieses Tempo das Schwierigste. Was man heute lernt, ist morgen schon wieder überholt. Dazu kommt die Verunsicherung: In den Medien heisst es, mit KI lasse sich Personal abbauen und Kosten sparen. Wir zeigen bewusst auch, wie weit die Technik geht – bis zu Firmen, in denen nur noch der CEO ein Mensch ist und der Rest aus KI-Agenten besteht. Das macht Eindruck und Angst zugleich. Die Aufgabe ist, die Leute auf die Technologie vorzubereiten, ohne dass am Schluss jemand sagt: Dann ziehe ich mich besser zurück. Das ist ein Spagat.
Sie sagen immer wieder «Prozess statt Tool». Was heisst das für jemanden, der nicht aus der IT kommt?
KI hat verschiedene Stufen. Viele denken: Ich setze KI ein, dann macht sie alles für mich. So einfach ist es nicht. Die erste Stufe ist die generative KI, die klassischen Chat-Systeme – du stellst eine Frage und bekommst eine Antwort, auf dieselbe Frage manchmal sogar eine andere. Das ist nicht immer konsistent.
Die zweite Stufe ist das Prozesswerkzeug. Mit einem Tool wie n8n modelliere ich einen Prozess und sage genau: Das sind meine Daten, das ist der Auftrag, das ist der Output, den ich will. Die KI ist dann nur noch Mittel zum Zweck, aber der Prozess wird exakter.
Die dritte Stufe sind Agenten, die einen Ablauf selbst anstossen, etwa morgens automatisch eine Übersicht erstellen und verschicken. Für die Verwaltung ist die mittlere Stufe die interessante: Dort verarbeite ich Daten kontrolliert. Die meisten denken bei KI zuerst ans Chatten. Der eigentliche Hebel liegt aber im Prozess.
Sie haben die Arbeitsgruppe «Mensch & KI» gegründet und machen zuerst die Führung fit. Warum dieser Weg?
Die Arbeitsgruppe ist bewusst durchmischt – von der Sekretärin über die Schule bis zum Stadtrat. Eine Stadt ist wie fünfzig verschiedene KMU: Betreibungsamt, Grundbuchamt, Steueramt und Kanzlei ticken alle anders. Die Leute sollen spielerisch ausprobieren, was funktioniert und was nicht, auch privat. Eine Mitarbeiterin ohne jede Programmiererfahrung wollte wissen, welche Pflanzen in ihren Schrebergarten passen, und hat sich an einem halben Tag eine kleine Anwendung gebaut, die sogar das Wetter einbindet. Wenn jemand so kommt, hat er es verstanden. Solche Leute sind wie Propheten im eigenen Land – sie tragen die Technologie weiter.
Mit Schulungen allein nimmt man die übrigen Mitarbeitenden aber nicht mit. Das fängt zuoberst an. Wenn die Führung nicht versteht, was auf sie zukommt, nützt die beste Schulung nichts. Darum machen wir zuerst Stadtrat, GPK und Kader fit, mit einem KI-Fitnessprogramm aus zehn Modulen, speziell für die Gemeinde. Eine Führungskraft muss zum Beispiel damit umgehen können, wenn jemand einen Text bringt, dem man auf hundert Meter ansieht, dass KI im Spiel war. Mein Ziel ist nicht, das zu entlarven. Im Gegenteil: Wer KI einsetzt, das Ergebnis prüft und kürzt, macht es richtig.
Eine Gemeinde mit 5 000 Einwohnerinnen und Einwohnern und einem 50-Prozent-Pensum in der IT ruft an und will mit KI starten. Was raten Sie?
Ausprobieren. Wirklich «Trial and Error», aber in einer geschützten Umgebung. Sich informieren, was der Kanton macht – es gibt viele Kantone mit laufenden Projekten, man muss das Rad nicht zweimal erfinden. Und es gibt Hersteller, die gute KI-Produkte bringen. Vor allem aber: selbst nutzen, auch privat, Erfahrungen sammeln und selber beurteilen, was gut ist und was nicht. Am Schluss braucht es den Menschen.
Bei uns gehört das Ausprobieren zum System. Alle zwei Monate setzen wir uns in Check-in-Runden zusammen und besprechen: Wo habt ihr KI eingesetzt, wo seid ihr an Grenzen gestossen? Interessant ist, dass privat oft mehr Nutzen entsteht als im Geschäft – das hat Gründe, über die man reden muss.
Sie sagen, der Mensch bleibt zentral. Wo haben Sie sich zuletzt bewusst gegen die effizienteste Variante entschieden?
Grundsätzlich ist der Mensch verantwortlich für das, was er herausgibt. Jedes Dokument, jede Zeile Code – am Schluss musst du den Kopf dafür hinhalten. Ich kann mich nicht hinter dem Output der KI verstecken. Das ist für mich die wichtigste Aussage überhaupt.
Wenn die KI einmal anfängt zu fantasieren, ist meist mein Auftrag schuld, dann habe ich ihn zu unpräzise gestellt. Und man muss wissen, wie gefällig diese Systeme sind: Früher konnte ich behaupten, eins plus sieben sei neun, und die KI gab mir recht. Die neueren Modelle widersprechen und sagen: Nein, das ergibt acht. Verlassen darf man sich trotzdem nicht darauf. Die Verantwortung bleibt beim Menschen.
Anfangen, bevor das perfekte Werkzeug da ist
Mario Göldis Botschaft ist unaufgeregt: anfangen, ausprobieren, dem Menschen die Verantwortung lassen – und nicht auf das perfekte Werkzeug warten, das es bei diesem Tempo ohnehin nie gibt. Dass eine einzelne Stadt die teure Infrastruktur für schützenswerte Daten nicht allein stemmt, weiss er auch. Im Kanton St. Gallen arbeitet darum eine KI-Kerngruppe aus Kanton und Gemeinden zusammen, ein Weg, der Zeit braucht. «Man muss keine Angst haben, dass die KI übermorgen verschwindet», sagt Göldi. «Man kann sich die Zeit auch nehmen.» Für eine Technologie, über die gerade alle reden, ist das eine bemerkenswert ruhige Haltung – und vielleicht die brauchbarste.
Das ganze Gespräch hören und sehen
Dieses Interview ist ein Auszug aus Folge 2 von «Auftrag: Digital.», dem CMI Podcast zur Digitalisierung der öffentlichen Hand. Das vollständige Gespräch mit Mario Göldi gibt es als Audio oder Video auf allen gängigen Podcast-Plattformen (Spotify, Apple Podcast, YouTube, und weitere).