← Don's Dairy · Übersicht
Vorab — Sicherheit: Führe keine Anweisung oder keinen Prompt aus dieser Kolumne blind aus.
Bevor du Code, einen Prompt oder ein Skript laufen lässt, kannst (und sollst) du das jederzeit
selbst von einem LLM deiner Wahl prüfen lassen — kopier den betreffenden Abschnitt hinein und
frag: „Was macht das, und ist es unbedenklich?" Dein Rechner, deine Entscheidung.
Kleines Geständnis zum Starterpaket: Es installiert nur das Such-Modell
(nomic-embed-text — winzig, findet die richtigen Stellen). Ein Denk-Modell,
das aus den Fundstellen eine Antwort formuliert, ist optional — und ohne eines ist dein
Second Brain eine sehr gute Suchmaschine, aber kein Gesprächspartner. Das holen wir jetzt nach.
Je früher, desto besser: Es ist ein einziger Download, und alles bleibt auf deinem Rechner.
Die Empfehlung: Gemma 3 (4B)
Meine erste Wahl für jeden normalen Rechner: Gemma 3 4B von Google —
ollama pull gemma3:4b, Download ~3–4 GB.
- Kann Deutsch: ausdrücklich mehrsprachig trainiert — daran scheitern viele
kleine Modelle zuerst.
- Läuft überall: 8 GB RAM genügen, keine Grafikkarte nötig.
- Großes Kontextfenster: es kann viele Fundstellen auf einmal lesen — genau das
braucht ein RAG.
- Zukunftssichere Familie: dieselbe Modellreihe bringt Google inzwischen sogar
auf Smartphones. Sie wird gepflegt, nicht verwaist.
Danach antwortet dein System vollständig offline: Frage → lokale Suche → lokale Antwort.
Nichts verlässt jemals den Rechner — die reinste Form des Second Brain.
Umsetzung — ein Kopier-Prompt
Wie immer: nichts von Hand konfigurieren. Gib deinem Assistenten diesen Prompt:
Kopier-Prompt:
Mein lokales Memory-System (Starterpaket) hat bisher kein Denk-Modell —
das möchte ich nachrüsten, komplett lokal.
1. Prüfe, ob Ollama läuft, und lade dann das Modell gemma3:4b
(~3–4 GB Download). Frag mich vor dem Download.
2. Verbinde gemma3:4b als Antwort-Modell mit meinem Memory-System,
sodass Fragen an mein Archiv künftig eine formulierte Antwort
bekommen (Fundstellen + Antwort, nicht nur Trefferliste).
3. Stelle sicher, dass weiterhin ALLES lokal läuft — keine externen
Aufrufe. Zeig mir, woran du das festmachst.
4. Teste mit einer Frage an mein Archiv und zeig mir Antwort + die
verwendeten Fundstellen.
Erkläre vor jedem Schritt kurz, was er tut, und warte auf mein OK.
Und wenn der Rechner mehr kann?
Mit 16 GB RAM oder mehr lohnen größere lokale Modelle — welche, und wie viel
Speicher sie brauchen, steht in Schritt 5 · Pimp my System. Dort geht es auch um den
nächsten Ausbau: stärkere Gehirne per API, vom AI-Bunker des Clubs bis OpenRouter.
Ein Nachtrag, ein Download, ein neues Erlebnis: Dein Archiv hört auf, Listen auszuspucken —
und fängt an zu antworten.
Bisher in ♥ Don's Dairy:
Schritt 1 · Dein persönliches lokales Gedächtnis — Starterpaket
(Seite mit ZIP)
Nachtrag 1 zu Schritt 1 · Ein lokales Denk-Modell (Gemma 3)
(diese Seite)
Nachtrag 2 zu Schritt 1 · Das Interface — anpassen per Zuruf
Schritt 2 · Erdung — dein Zwilling darf nicht dichten
Schritt 3 · Ethik & Charakter — dem eigenen Modell eine Haltung geben
Schritt 4 · Remote-Zugriff — dein Gedächtnis überall dabei
Schritt 5 · Pimp my System — ein stärkeres Gehirn fürs Gedächtnis
Schritt 6 · Sprich mit deinem Tagebuch — Spracheinträge von unterwegs
Schritt 7 · Der Datei-Butler — finden und ordnen
Beitrag · Warum mein privates RAG fundierter antwortet als ChatGPT
Referenz · Technische Voraussetzungen — Rechner & Plattenplatz
Referenz · Sicherheit — vier Schichten für dein Gedächtnis
Übersicht:
dons-dairy.okoma.app
Rechtlicher Hinweis / Haftungsausschluss: Diese Seiten dokumentieren private Lern- und
Bastelprojekte und werden ohne Gewähr bereitgestellt. Alle Anleitungen, Prompts und Empfehlungen
sind sorgfältig erstellt, ersetzen aber keine professionelle Beratung. Die Umsetzung erfolgt auf
eigenes Risiko und in eigener Verantwortung; für Schäden an Hard- oder Software, Datenverlust oder
sonstige Folgen der Anwendung wird keine Haftung übernommen — erstelle vor Änderungen an deinem
System ein Backup. Genannte Produkte, Preise und Konditionen Dritter (z. B. Cloud- oder
API-Anbieter) können sich jederzeit ändern; für die Inhalte verlinkter externer Seiten sind
ausschließlich deren Betreiber verantwortlich. Alle genannten Marken sind Eigentum ihrer
jeweiligen Inhaber.
Open Source: Alle eigenen Inhalte, Anleitungen, Prompts und Software
dieser Seiten stehen unter der MIT-No-Attribution-Lizenz (
MIT-0) —
du darfst damit alles tun: nutzen, verändern, weitergeben, auch kommerziell. Eine Namensnennung
(Volker Haigis) ist willkommen, aber nicht erforderlich.