ki
Lokale LLMs statt Cloud: Experiment mit Qwen und GLM
Der Autor testete, ob sich ChatGPT durch lokale KI-Modelle auf einem PC mit RTX 3080 und 32 GB RAM ersetzen lässt. Qwen3.5 9B schnitt am besten ab, doch die erhoffte Qualität und Kostenersparnis konnten nicht bestätigt werden.
- Lokale LLMs lassen sich auf Consumer-Hardware mit RTX 3080 und 32 GB RAM betreiben
- Qwen3.5 9B erwies sich als leistungsfähigstes Modell im Vergleichstest
- Die gewohnte Antwortqualität von Cloud-Diensten und echte Kostenersparnis blieben unerreicht
Der Betrieb eigener KI-Modelle auf lokalen Rechnern bietet eine Alternative zu Cloud-Diensten wie ChatGPT. Die Technologie ist machbar, verspricht aber nicht automatisch bessere Ergebnisse oder niedrigere Kosten.