Das Kleingedruckte
Gwen3s „Feintuning-Anleitung“ ist ein Paradebeispiel für Herstellerbindung:
- Schritt 1: Bei Azure anmelden.
- Schritt 2: Deine Daten auf deren Server hochladen.
- Schritt 3: Beten, dass die API dein Dataset nicht leakt.
Die Lokale Lösung
Nutze llama.cpp, um offline zu fine-tunen:
./finetune.sh --dataset ./malware_logs.json --model ggml-base.bin
Voraussetzungen:
- Eine CPU (irgendeine reicht).
- Grundkenntnisse in sed.
- Null Toleranz für Cloud-Unsinn.
Zitat zum Mitnehmen:
„Wenn dein ‚offenes‘ Modell eine Kreditkarte braucht, ist es ein Mietmodell.“