Lokale KI für Einsteiger

Du möchtest Sprachmodelle auf deinem eigenen Rechner nutzen und verstehen, welche Daten dabei lokal bleiben? Lokale KI für Einsteiger führt dich vom ersten Modell bis zu einem eigenen KI-System. Für den Einstieg brauchst du keine KI-Vorkenntnisse.

In 24 Kapiteln lernst du Ollama, LM Studio, Open WebUI und AnythingLLM kennen. Du verstehst Modellfamilien, offene Gewichte, Quantisierung und den Speicherbedarf. Du vergleichst Modelle, formulierst klare Anfragen und nutzt eigene Dokumente mit RAG. Dabei lernst du auch die Grenzen von Antworten, Kontextfenstern und Hardware kennen.

Das Buch erklärt, wie lokale Verarbeitung, optionale Cloud-Modelle und externe Werkzeuge zusammenhängen. Du prüfst die Konfiguration deiner Anwendungen und lernst, warum ein lokaler Server allein noch keine vollständig lokale Verarbeitung garantiert. Eine Verbindung zu Home Assistant zeigt einen weiteren praktischen Einsatz.

Im vertiefenden Programmierteil greifst du mit Python auf die lokale Ollama-API zu, baust einen Gesprächsassistenten und erstellst ein Werkzeug zum Zusammenfassen von Textdateien. Danach geht es um Coding-Agenten, überschaubare Projektaufgaben und das Prüfen ihrer Änderungen. Für diese späteren Kapitel werden grundlegende Python-Kenntnisse vorausgesetzt; du kannst zunächst mit den Anwendungs- und Grundlagenkapiteln beginnen.

Übungen, Lösungen und ein Nachschlageteil begleiten dich. Geeignete Hardware und Speicherplatz für die gewählten Modelle sind erforderlich. Lokale Inferenz vermeidet Cloud-Gebühren pro Anfrage, verursacht aber weiterhin Hardware- und Stromkosten. Technischer Stand: September 2026.

Ohne Vorwissen starten – ein eigenständiger Band der Klartext-Reihe von Jan-Sven Pauls. 1. Auflage.