LLMs selbst betreiben

Beschreibung

Die eigene KI mit freier Software lokal ausführen

• Dieser praxisorientierter Leitfaden zeigt, wie Sie frei verfügbare Sprachmodelle (LLMs) auf eigener Hardware einrichten und nachtrainieren, um damit unabhängig von proprietären Anbietern zu sein
• Das Buch beschreibt Schritt für Schritt anhand konkreter Beispiele, wie Sie geeignete LLMs finden, betreiben und anpassen
• Die Verwendung von Open-Source-LLMs ermöglicht maßgeschneiderte KI-Lösungen für die private Nutzung und für Unternehmen, die ihre internen Daten schützen wollen

Wer die Vorzüge von ChatGPT und generativer KI nutzen will, seine wertvollen Daten aber nicht aus dem Haus geben möchte, kann ein fertiges Sprachmodell (Large Language Model) lokal selbst betreiben. Wie dies mit Open-Source-Modellen gelingt, beschreibt Bestseller-Autor Tim Schürmann in diesem Buch. Er zeigt praxisnah, wie man ein geeignetes Modell auswählt, in Betrieb nimmt und an die eigenen Bedürfnisse anpasst. Behandelt werden auch die Hardwarevoraussetzungen und das Einrichten der Softwareumgebung. Auf diese Weise erfahren Sie, wie Sie Sprachmodelle autark einsetzen können und damit die Datenhoheit behalten. Mit Schnellstart-Kapitel für den erfolgreichen Einstieg.

Autor*in

Tim Schürmann
Tim Schürmann ist selbstständiger Diplom-Informatiker und derzeit hauptsächlich als freier Autor unterwegs. Seine zahlreichen Artikel erscheinen in führenden Zeitschriften und wurden in mehrere Sprachen übersetzt. Er hat bereits einige erfolgreiche Bücher geschrieben, darunter Das Joomla!-Buch oder Joomla!-Websites erweitern und optimieren (O’Reilly Verlag). Seine Steckenpferde sind die Programmierung, Algorithmen, freie Software, Computergeschichte, Schokoladeneis und der ganz alltägliche Wahnsinn.

Themen in »LLMs selbst betreiben«

LLM Self-Hosting NLP Natural Language Processing Large Language Models Künstliche Intelligenz RAG Raspberry Pi Nvidia Jetson Chatbot KI-Beschleuniger Sprachmodelle

Stimmen zu »LLMs selbst betreiben«

Details

Link teilen