Was KI wirklich ist
Das wichtigste Phänomen, das jede KI-Nutzerin und jeder KI-Nutzer kennen muss — und warum es passiert.
KI-Sprachmodelle sind darauf trainiert, plausibel klingende Texte zu erzeugen — nicht darauf, wahr zu sein. Wenn das Modell etwas nicht weiß, erfindet es manchmal eine Antwort, die grammatisch und inhaltlich überzeugend klingt. Das passiert besonders bei Zahlen, Namen, Gesetzen und Quellenangaben.
— „Paragraph 47a des SGB XI besagt…" (gibt es nicht)
— „Laut einer Studie der Universität Mainz von 2023…" (wurde erfunden)
— „Der AWO-Bundesverband schreibt in seinen Leitlinien vor, dass…" (nicht verifiziert)
— Falsche Gesetzeszitate, die real klingen
— Zahlen, Gesetze und Zitate immer selbst nachschlagen
— KI nie als Quelle zitieren — sie ist ein Entwurfswerkzeug, keine Informationsquelle
— Bei Unsicherheit: „Aus welcher Quelle stammt diese Information?" in der KI nachfragen — und die Antwort trotzdem prüfen
— Faustregel: Je spezifischer die Behauptung, desto sorgfältiger prüfen
Immer aus Originalquellen prüfen. KI nennt oft realistische, aber erfundene Zahlen.
Paragraphen immer im Original nachschlagen — auf gesetze-im-internet.de oder beim Träger.
Was angeblich der AWO-Bundesverband, der MDK oder das BMASK sagt: immer verifizieren.
KI kennt kein Gestern. Alles nach dem Trainingsschnitt ist unbekannt oder erfunden.
Besondere Verantwortung
Die AWO arbeitet mit Menschen in vulnerablen Lebenssituationen. Das stellt besondere Anforderungen an den verantwortungsvollen Umgang mit KI.
KI kann Textentwürfe, Strukturen und Ideen liefern. Sie kann niemals eine menschliche Einschätzung über einen Menschen ersetzen — ob in der Pflege, der Jugendhilfe oder der Beratung. Entscheidungen, die Menschen betreffen, bleiben Menschensache.
Zum Mitnehmen
Zum Ausdrucken und Aufhängen — sieben Fragen, die Sie vor dem Verwenden eines KI-Textes stellen sollten.
Wenn alle Punkte zutreffen, ist der Text bereit zum Verwenden.
Was jetzt kommt
Zwei Entwicklungen, die Führungskräfte heute kennen sollten — eine technologische, eine rechtliche.
Systeme wie Hermes oder Microsoft Copilot Wave 3 handeln eigenständig: Mails lesen, Termine anlegen, Berichte erstellen — ohne dass jemand tippt. Sie lernen aus Ihren Abläufen und werden täglich besser. Die Frage ist nicht ob, sondern wann und wie sicher diese Systeme eingeführt werden.
Agenten, die Tools miteinander verbinden, sind bereits praxisreif: Eingehendes Formular → automatisch strukturierter Bericht → Weiterleitung → Terminvorschlag. Wer Abläufe heute klar dokumentiert, macht sie morgen KI-tauglich.
Ab diesem Datum gilt EU-weit: KI-Chatbots im Klientenkontakt oder auf Websites müssen als KI gekennzeichnet sein. Wer dagegen verstößt, riskiert Bußgelder bis 15 Millionen Euro. Zuständige Aufsicht: Bundesnetzagentur.
Egal wie autonom ein System agiert: Rechtlich und ethisch haftet der Mensch dahinter. Was KI in Ihrem Namen tut, tun Sie. Prüfen, freigeben, verantworten — das bleibt Führungsaufgabe.
KI wird mächtiger — die Grundregeln ändern sich nicht: Daten schützen, Fehler prüfen, Menschen entscheiden lassen. Wer das verinnerlicht hat, kann jede neue KI-Generation sicher einführen.
KI ist ein Werkzeug — kein Wundermittel, keine Bedrohung. Führungskräfte, die es sinnvoll einsetzen, gewinnen Zeit für das, was wirklich zählt: die Menschen, für die die AWO da ist.
Zur Modulübersicht →