♥ Don's Dairy
Ein stärkeres Gehirn für dein Gedächtnis — das Archiv bleibt zu Hause.
Dein Second Brain hat zwei Gehirnhälften: das Suchen (Embeddings — findet die richtigen Stellen) und das Denken (das LLM, das daraus eine Antwort formuliert). Das Suchen läuft lokal hervorragend. Aber das Denken? Das Starterpaket bringt standardmäßig gar kein Denk-Modell mit — das Basis-Modell rüstet der Nachtrag zu Schritt 1 nach. Und selbst damit hast du einen fleißigen Praktikanten — für Zusammenfassungen über hundert Seiten, gute Deutungen oder lange Gespräche willst du irgendwann einen Profi. Der Ausbau geht in Stufen und das Prinzip bleibt: Dein Archiv, deine Embeddings, deine Suche — alles bleibt lokal. Zum externen LLM reisen pro Frage nur die Frage selbst und die gefundenen Textstellen. Genau deshalb lohnt der Blick darauf, WEM du diese Ausschnitte schickst.
Das Basis-Denk-Modell (gemma3:4b für jeden 8-GB-Rechner) steht im
Nachtrag zu Schritt 1 — das rüstest du am besten sofort nach. Hier geht es um die
Frage: Was bringt stärkere Hardware, wenn du lokal bleiben willst? Faustregel fürs
Kopfrechnen: Download-Größe des Modells + ~3 GB Luft = benötigter RAM.
gemma3:4b (~3–4 GB) — der Standard aus dem
Nachtrag. Mehr passt ehrlich nicht.gemma3:12b (~8 GB) — spürbar klügere
Antworten, gleiche Familie; Alternative qwen3:8b (~5 GB), ebenfalls
stark auf Deutsch.gemma3:27b (~17 GB) oder
qwen3:32b (~20 GB) — die beste lokale Qualität; auf reiner CPU aber
gemächlich (Antworten dauern), erst mit Apple Silicon oder einer Grafikkarte flott.Zwei Hardware-Hinweise: Apple-Silicon-Macs sind fürs lokale Rechnen ein Glücksfall (Grafik und CPU teilen sich den Speicher — das 12B-Modell läuft auf einem M-Mac mit 16 GB angenehm). Bei PCs entscheidet die Grafikkarte: ab ~12 GB Grafikspeicher wird auch das 12B-Modell richtig schnell. Und egal wie groß: ein lokales Modell bleibt lokal — 100 % privat, 0 € pro Frage.
Als Club-Mitglied hast du Zugang zur API des AI-Bunkers — ein souveränes KI-Gateway, betrieben in Deutschland. Das ist der Weg mit dem hervorragendsten Datenschutz: Deine Textstellen bleiben in deutscher Infrastruktur, unterliegen der DSGVO, werden nicht für Training verwendet — und du kennst die Menschen, die das Ding betreiben, persönlich aus dem Club. Für ein System, das dein Tagebuch enthält, ist das ein anderes Vertrauensniveau als jeder Konzern-Dienst.
Dazu kann der Bunker mehr als Text: Embeddings, Whisper (Sprache→Text), Sprachausgabe, Bild-Verständnis. Damit wächst dein Second Brain in Richtung „alles aus einer Hand": Sprachmemos werden durchsuchbar, das System liest dir Zusammenfassungen vor, Fotos bekommen Beschreibungen — Werkzeuge wie NotebookLM brauchst du dann womöglich gar nicht mehr, weil dein eigenes Archiv das alles kann. Zugang/Konditionen: im Club fragen.
Mehrere Anbieter haben kostenlose Kontingente, die jedes lokale 8-GB-Modell deutlich
übertreffen — z. B. Google AI Studio (Gemini Flash), Groq (rasend schnelle offene
Modelle) oder die :free-Modelle bei OpenRouter. Für den Einstieg völlig
ausreichend. Aber sei bei „kostenlos" erwachsen: Du zahlst mit Limits (Anfragen pro
Tag) und teils mit Daten — bei manchen Gratis-Stufen dürfen deine Eingaben zum
Training verwendet werden. Faustregel: Für Skripte, Sachtexte und Unpersönliches ist das
fein. Ob deine Tagebuch-Fundstellen in ein Konzern-Training fließen sollen,
entscheidest du bewusst — und liest vorher die Datennutzungs-Bedingungen der Gratis-Stufe.
Der Schritt von „gratis" zu „bezahlt" ist kleiner als gedacht: Eine typische Antwort über dein Archiv kostet bei Pay-per-Use Bruchteile eines Cents bis wenige Cent — ein intensiver Monat weniger als ein Kinobesuch. Dafür fallen die Limits weg, die Datenregeln sind besser (bezahlte APIs trainieren üblicherweise nicht mit deinen Daten), und dir stehen die stärksten Modelle offen. Zwei Bausteine machen das komfortabel:
| Stufe | Datenschutz | Antwort-Qualität | Kosten |
|---|---|---|---|
| Lokal (Starterpaket + Gemma 3) | perfekt — nichts verlässt den Rechner | Praktikant: ok für Kurzes | 0 € |
| AI-Bunker (Club) | hervorragend — DE, DSGVO, kein Training, Betreiber persönlich bekannt | stark, plus Audio/Bild-Fähigkeiten | Club-Konditionen |
| Gratis-APIs | durchwachsen — Limits, teils Training mit deinen Eingaben | deutlich über lokal | 0 € |
| Bezahlte APIs (OpenRouter + LiteLLM) | gut — kein Training, aber US-/Cloud-Anbieter | Spitzenklasse, freie Modellwahl | Cents pro Frage |
In allen vier Stufen gilt: Archiv, Embeddings und Suche bleiben lokal — extern reist immer nur Frage + Fundstellen. Und dank LiteLLM ist keine Entscheidung endgültig.
Wer eine große Festplatte mit vielen Projekten hat, braucht zwei Backups: eine Cloud-Spiegelung (läuft automatisch, schützt gegen Diebstahl, Brand, Plattentod) und eines auf einem externen Datenträger (schützt gegen Cloud-Ausfall, gesperrte Konten — und ist die einzige Kopie, die dir niemand wegnehmen kann).
Für die Cloud-Seite ist Google Workspace derzeit schwer zu schlagen: Mit dem Gemini-Plus-Abo (~10 €/Monat) bekommst du 2 Terabyte — das ist konkurrenzlos. Und es hat einen Bonus, der hier ins Bild passt: Google Drive ist von praktisch allen LLM-Assistenten per Erweiterung/Connector bequem erreichbar — deine Projektdateien stehen damit auch deinem KI-Werkzeugkasten offen, ohne Bastelei.
Klare Grenze bleibt: Das ist die Ablage für Projekte und Backups. Dein Gedächtnis-Archiv selbst — Tagebuch, Chats, Datenbank — bleibt lokal (aufs externe Backup gehört es verschlüsselt trotzdem).
API-Schlüssel sind Passwörter: Du erzeugst sie selbst im Browser und trägst sie selbst in die Konfigurationsdatei ein — nie in den Chat schreiben. Den Rest macht dein Assistent:
Kopier-Prompt:
Ich möchte mein lokales Memory-System (Starterpaket) mit einem stärkeren LLM verbinden. Das Archiv und die Embeddings bleiben lokal — nur Frage + Fundstellen gehen an die API. 1. Schau dir an, wie mein Memory-System aktuell antwortet (lokales Ollama-Modell?) und wo die Konfiguration liegt. 2. Frag mich, welchen Anbieter ich nutzen will (Club-Bunker / Gratis-API / OpenRouter) und richte die Anbindung ein — idealerweise über LiteLLM als Zwischenschicht, damit ich später wechseln kann. 3. Den API-Schlüssel trage ICH selbst in die .env-Datei ein — lege sie an, sag mir wo, und sorge dafür, dass sie nicht in Backups/Git landet (Dateirechte, .gitignore). 4. Baue einen Fallback: Ist die API nicht erreichbar, antwortet wieder das lokale Modell. 5. Teste mit einer Frage an mein Archiv und zeig mir: welches Modell geantwortet hat, was es gekostet hat, und welche Textstellen die API zu sehen bekam. Erkläre vor jedem Schritt kurz, was er tut, und warte auf mein OK.