Was ist KI — und wie funktioniert sie?
Bevor es um Regeln und Risiken geht, klären wir das Fundament: Was ist KI überhaupt, wie „lernt“ sie, und was ist ein Sprachmodell wie ChatGPT? Keine Informatik-Vorlesung — nur so viel, dass Sie verstehen, warum KI so nützlich und zugleich so fehleranfällig ist.
Nach dieser Lektion können Sie …
- KI von klassischer Software unterscheiden,
- in eigenen Worten sagen, wie ein Modell aus Daten lernt,
- erklären, was ein LLM ist und dass es mit Wahrscheinlichkeiten arbeitet,
- daraus die typischen Grenzen (Halluzination, Bias) ableiten.
Kein denkender Computer
Viele stellen sich KI wie einen denkenden Computer vor, der Dinge „weiß“ und „versteht“. Diese Vorstellung führt in die Irre — und erklärt, warum so viele KI falsch einschätzen.
ein denkender Computer, der Dinge „weiß“ und „versteht“
vor allem eines: erstaunlich gute Mustererkennung auf Basis von Statistik
Wer das begreift, nutzt KI souveräner.
KI lernt, statt Regeln zu befolgen
Klassische Software und KI kommen auf verschiedenen Wegen zu ihrem Ergebnis. Die kurze Präsentation zeigt den Unterschied.
Zum Nachlesen: der Text der Präsentation
Klassische Software folgt festen Regeln, die ein Mensch programmiert hat: Wenn A, dann B. Eine KI funktioniert anders. Sie bekommt viele Beispiele und leitet daraus selbst Muster ab — ohne dass jemand die Regeln ausformuliert.
Ein Bild: Ein Kind lernt „Hund“ nicht über eine Definition, sondern indem es viele Hunde sieht. Irgendwann erkennt es auch einen Hund, den es noch nie gesehen hat. KI-Modelle lernen ähnlich — nur mit Daten statt mit Anschauung. Die Sammlung dieser Beispiele heißt Trainingsdaten, und ihre Qualität bestimmt, wie gut (und wie fair) die KI arbeitet.
Was ein LLM ist — und was es wirklich tut
Was steckt hinter Werkzeugen wie ChatGPT? Die kurze Präsentation erklärt es.
Zum Nachlesen: der Text der Präsentation
Hinter Werkzeugen wie ChatGPT, Copilot oder Gemini steckt ein großes Sprachmodell (englisch Large Language Model, kurz LLM). Es wurde auf riesigen Textmengen trainiert und hat dabei gelernt, welche Wörter typischerweise aufeinanderfolgen.
Wenn Sie eine Frage stellen, „versteht“ das Modell sie nicht wie ein Mensch. Es berechnet Schritt für Schritt, welches nächste Textstück am wahrscheinlichsten passt — Wort für Wort, bis eine vollständige Antwort entsteht. Vereinfacht gesagt: Ein LLM ist eine extrem ausgefeilte Vorhersagemaschine für Sprache, kein Wissensspeicher und kein Denkapparat.
Probieren Sie es aus: Wort für Wort
Wählen Sie ein Beispiel und lassen Sie das Modell die Antwort Schritt für Schritt fortsetzen. In dieser vereinfachten Veranschaulichung nimmt es jedes Mal das Textstück, das am plausibelsten passt. Die Balken zeigen, wie plausibel ein Textstück als Fortsetzung ist — es sind keine Messwerte eines echten Modells.
Mögliche nächste Textstücke — wie plausibel ist jedes?
Warum das Prinzip die Grenzen erklärt
Aus „Wahrscheinlichkeit statt Wissen“ folgen direkt die typischen Schwächen — die uns in späteren Lektionen wieder begegnen:
Es kann überzeugend danebenliegen.
Weil das Modell die plausibelste Fortsetzung erzeugt, nicht die wahre, kann es Fakten erfinden, die glaubwürdig klingen — das nennt man Halluzination. Vereinfacht gesagt: Die KI füllt eine Wissenslücke mit dem, was so aussieht, wie die Antwort aussehen müsste. Fragen Sie nach einer Studie zu Ihrem Thema, nennt sie womöglich Autorin, Titel und Erscheinungsjahr, und nichts davon existiert. Das Modell bemerkt den Unterschied nicht, denn für die Vorhersage ist eine erfundene Quelle so wahrscheinlich wie eine echte. Ein Warnsignal gibt es nicht: Die erfundene Antwort klingt so sicher wie die richtige.
Lektion 8Es spiegelt seine Daten.
Steckt in den Trainingsdaten eine Verzerrung, übernimmt die KI sie — das ist Bias, englisch für Schieflage oder Voreingenommenheit. Vereinfacht gesagt: Die KI hält für normal, was in ihren Daten häufig vorkommt. Bitten Sie einen Chatbot um eine Geschichte über einen Chefarzt und eine Pflegekraft, ist die Pflegekraft häufig eine Frau, obwohl Sie das nicht vorgegeben haben. Und weil das Modell stets die wahrscheinlichste Fortsetzung wählt, verstärkt es die Schieflage noch: Was in den Daten selten ist, kommt in den Antworten noch seltener vor. Das Tückische daran: Die Antwort wirkt neutral, denn sie kommt von einer Maschine.
Lektion 10Es hat kein echtes Weltverständnis.
Die KI kennt keinen Sinn und keine Wahrheit, nur Muster. Vereinfacht gesagt: Sie weiß, wie Sätze über die Welt klingen, aber nicht, wie die Welt ist. Sie kann eine Anleitung zum Brandschutz schreiben, ohne zu wissen, dass Feuer heiß ist, und sie merkt nicht, wenn ihre Empfehlung in Ihrem Betrieb gar nicht umsetzbar wäre. Was richtig klingt, ist für sie richtig. Deshalb müssen Sie jede Aussage prüfen. Ihr Urteil als Benutzer ist unverzichtbar.
Ordnen Sie zu: Welche Grenze steckt dahinter?
Ein Chatbot nennt Ihnen zu einer Rechtsfrage ein Gerichtsurteil samt Aktenzeichen. Das Urteil gibt es nicht.
Eine KI sortiert Bewerbungen vor. Weil im Unternehmen früher vor allem Männer eingestellt wurden, bewertet sie Bewerbungen von Frauen schlechter.
Eine KI formuliert Ihnen eine Absage an einen langjährigen Lieferanten. Der Text klingt professionell — ob die Absage in dieser Lage klug ist, kann sie nicht beurteilen.
Was das für Ihre Arbeit heißt
Dieses Grundverständnis ist kein Selbstzweck. Es ist der Grund, warum die späteren Regeln überhaupt Sinn ergeben:
KI „weiß“ nichts — sie rechnet.
Sie ist ein starkes Werkzeug zur Mustererkennung und Sprachvorhersage, kein allwissender Kollege. Wer das verinnerlicht, erkennt sofort, warum Prüfen, klare Anweisungen und menschliches Urteil unverzichtbar bleiben.
Das nehmen Sie mit
- KI folgt keinen einprogrammierten Regeln, sondern lernt Muster aus Trainingsdaten.
- Ein LLM sagt das wahrscheinlichste nächste Textstück voraus — es rechnet, statt zu „verstehen“.
- Aus dem Wahrscheinlichkeitsprinzip folgen die typischen Grenzen: Halluzination, Bias, fehlendes Weltverständnis.
- Deshalb sind Prüfen, klare Prompts und menschliches Urteil zentral.
Sitzt das Wichtigste?
Der Wissenscheck ist freiwillig und nur für Sie gedacht. Ihre Antworten werden weder gespeichert noch bewertet, und niemand sonst bekommt sie zu sehen. Wenn Sie ein paar Minuten übrig haben, prüfen Sie hier, ob die Kernpunkte der Lektion angekommen sind.
Wissenschecksechs Fragen · wenige Minuten
Wählen Sie je Frage eine Antwort. Die Rückmeldung erklärt, was hinter jeder Option steckt.
Quellen
- Grundlagen als Pflichtbestandteil einer KI-Kompetenz-Schulung („Was ist KI? Wie funktionieren LLMs?“): Haufe Akademie — KI-Schulungspflicht · synclaro — AI Literacy nach EU AI Act
- Kontextbewusste Nutzung von LLMs (warum KI guten Kontext braucht): digitale Profis
