Lokale & quantisierte KI-Modelle

Was diese Übersicht leistet

Lokal statt API?

CheckCom ordnet ein, wann lokale Workstation-, Edge- oder API-Routen für Unternehmen prüfenswert sind.

Quantisierung verständlich

Q4, Q5, Q6, Q8, GGUF und weitere Signale werden als Hardware- und Eignungshinweise ausgewertet.

Messstatus sichtbar

Öffentliche Werte werden als Metadaten, externe Orientierung oder später als CheckCom-eigene Messung gekennzeichnet.

850

lokale/quantisierte Kandidaten

449

Anbieter / Familien

21991

RTX-5090-Kandidaten

Ollama-Hinweise

279

lokale News-/Release-Signale

Wichtig zur Einordnung: Quantisierte Modelle und lokale Hardwarewerte sind nur vergleichbar, wenn Modellversion, Quantisierung, Runtime, Kontextlänge, Prompt und Hardwareprofil dokumentiert sind. V3.1 zeigt deshalb zunächst Hardwarefit, Metadaten und externe Benchmarkquellen; echte CheckCom-Tokens/s-Werte folgen erst nach eigenen Messläufen.

Hardwareprofile

Hardware	Geeignet für	Grenzen	Messstatus
RTX 5090 / 32 GB VRAM	7B–35B quantisierte LLMs, Coding, lokale RAG-Tests, schnelle lokale Inferenz	sehr große 70B+ Modelle nur mit starker Quantisierung/Offload; mehrere parallele Nutzer prüfen	benchmark_prepared
RTX 4090 / 24 GB VRAM	kleinere bis mittlere quantisierte Modelle und lokale Experimente	32B+ und lange Kontexte häufig knapp	external_and_future_checkcom
RTX Pro / 96 GB VRAM	große lokale Modelle, längere Kontexte, professionelle lokale Inferenz	hohe Anschaffungskosten; TCO prüfen	profile_prepared
Raspberry Pi 5 + AI HAT+ 2 / Hailo-10H	Edge-KI, kleine LLM-/VLM-Kandidaten, Vision, lokale Demo- und Datenschutzszenarien	kein Ersatz für große GPU-LLMs; Hailo-kompatible Modelle und Runtime nötig	demo_profile_available
Raspberry Pi 5 CPU-only	kleine CPU-Tests, Klassifikation, Offline-Demos	große LLMs und lange Kontexte nicht sinnvoll	inventory_prepared
API / Cloud / Enterprise	Skalierung, Enterprise-Verträge, hohe Parallelität und schnelle Produktivstarts	laufende Token-/Seat-Kosten, Datenroute und Vertrag prüfen	price_radar_linked

Lokale und quantisierte Modellkandidaten

Aus dem CheckCom-Modellkatalog abgeleitet. Messstatus „metadata_only“ bedeutet: noch kein CheckCom-Benchmarkwert.

Modell	Params B	Quantisierung	VRAM GB	RTX 5090	Pi 5 / AI HAT+ 2	Score
Qwen2.5-Coder 7B Instruct Alibaba / Qwen	7.0	Q4 Q4	8.0	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	95/100 metadata_only
Qwen3.8 Next 40B Exp MoE Healed GGUF Alibaba / Qwen	40.0	GGUF Q4_K_M, GGUF, gguf	31.3	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen35B A3B SignOfFour Coder GGUF Alibaba / Qwen	35.0	GGUF Q2_K, GGUF, gguf	18.7	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 35B A3B Vocabulary Trimming GGUF Alibaba / Qwen	35.0	GGUF Q4_K_S, GGUF, gguf	28.2	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 35B A3B Uncensored xCloud GGUF Alibaba / Qwen	35.0	GGUF Q4_K_M, GGUF, gguf	28.2	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 35B A3B TQ2Q GGUF Alibaba / Qwen	35.0	GGUF GGUF, gguf	28.2	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 35B A3B StyleTune GGUF Alibaba / Qwen	35.0	GGUF IQ4_XS, GGUF, gguf	28.2	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 35B A3B Q5 K M GGUF Alibaba / Qwen	35.0	GGUF q5_k_m, Q5, GGUF	32.7	offload nur mit Offload oder reduzierten Einstellungen realistisch	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 35B A3B Ornith 80 20 Beta GGUF Alibaba / Qwen	35.0	GGUF Q4_K_S, GGUF, gguf	28.2	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 35B A3B NVFP4 Gguf Alibaba / Qwen	35.0	GGUF Gguf, gguf	28.2	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 35B A3B NVFP4 GGUF Alibaba / Qwen	35.0	GGUF q3, GGUF, gguf	22.3	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 35B A3B MTP GGUF Tater NoThink Alibaba / Qwen	35.0	GGUF Q4_K_M, GGUF, gguf	28.2	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 35B A3B DS4 GGUF Alibaba / Qwen	35.0	GGUF Q4_K_S, GGUF, gguf	28.2	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 35B A3B Claude 4.7 Distill NVFP4 GGUF Alibaba / Qwen	35.0	GGUF GGUF, gguf	28.2	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 35B A3B Claude 4.7 Distill MXFP4 MoE GGUF Alibaba / Qwen	35.0	GGUF GGUF, gguf	28.2	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 35B A3B Abliterated GGUF Alibaba / Qwen	35.0	GGUF IQ2_M, GGUF, gguf	18.7	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 35B A3B BitClass3 GGUF Alibaba / Qwen	35.0	GGUF Q3_K_S, GGUF, gguf	22.3	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 35B A3B APEX GGUF Alibaba / Qwen	35.0	GGUF GGUF, gguf	28.2	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Huihui Qwen AgentWorld 35B A3B Abliterated UD Q3 K M GGUF Alibaba / Qwen	35.0	GGUF Q3_K_M, Q3, GGUF	22.3	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
GraphForge Qwen3.6 35B A3B SFT I1 GGUF Alibaba / Qwen	35.0	GGUF IQ3_M, GGUF, gguf	22.3	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
GraphForge Qwen3.6 35B A3B SFT GGUF Alibaba / Qwen	35.0	GGUF IQ4_XS, GGUF, gguf	28.2	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Endy Qwen3.6 CyberSec 35B A3B GGUF Alibaba / Qwen	35.0	GGUF Q2_K, GGUF, gguf	18.7	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3 32B Qwople GGUF Alibaba / Qwen	32.0	GGUF Q4_K_M, GGUF, gguf	26.3	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3 32B GGUF Alibaba / Qwen	32.0	GGUF IQ3_M, GGUF, gguf	20.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen2.5 Coder 32B Python Specialist I1 GGUF Alibaba / Qwen	32.0	GGUF IQ3_M, GGUF, gguf	20.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen2.5 Coder 32B Python Specialist GGUF Alibaba / Qwen	32.0	GGUF IQ4_XS, GGUF, gguf	26.3	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen2.5 Coder 32B Instruct Jbliterated Alibaba / Qwen	32.0	GGUF Q4_K_M, gguf	26.3	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen2.5 Coder 32B Instruct GGUF Alibaba / Qwen	32.0	GGUF Q2_K, GGUF, gguf	17.7	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen2.5 32B Instruct AdiTurbo GGUF Alibaba / Qwen	32.0	GGUF Q3_K_M, GGUF, gguf	20.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
DeepSeek R1 Distill Qwen32B Q4 K M GGUF Alibaba / Qwen	32.0	GGUF q4_k_m, Q4, GGUF	26.3	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3 Coder 30B A3B Instruct GGUF Alibaba / Qwen	30.0	GGUF Q4_K_M, GGUF, gguf	25.1	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3 30B A3B Vietnamese Instruct GGUF Alibaba / Qwen	30.0	GGUF Q4_K_M, GGUF, gguf	25.1	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3 30B A3B GGUF Alibaba / Qwen	30.0	GGUF IQ3_M, GGUF, gguf	20.0	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Ektome Qwen3 30B A3B PristinelyUncensored GGUF Alibaba / Qwen	30.0	GGUF Q2_K, GGUF, gguf	17.0	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
ThinkingCap Qwen3.8 27B I1 GGUF Alibaba / Qwen	27.0	GGUF IQ3_M, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Swift Qwen3.8 27B Uncensored MTP Terse Coder I1 GGUF Alibaba / Qwen	27.0	GGUF IQ3_M, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Swift 1.5 Qwen3.8 27B I1 GGUF Alibaba / Qwen	27.0	GGUF IQ3_M, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Swift 1.5 Qwen3.8 27B Heretic I1 GGUF Alibaba / Qwen	27.0	GGUF IQ3_M, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Swift 1.5 Qwen3.8 27B Heretic GSQ RCO GGUF Alibaba / Qwen	27.0	GGUF IQ2_S, GGUF, gguf	15.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Swift 1.5 Qwen3.8 27B GGUF Alibaba / Qwen	27.0	GGUF IQ4_XS, GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B ZipBrain GGUF Alibaba / Qwen	27.0	GGUF IQ4_XS, GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B Uncensored Q4 K M GGUF Alibaba / Qwen	27.0	GGUF Q4_K_M, Q4, GGUF	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B Uncensored Q4 K M GGUF Alibaba / Qwen	27.0	GGUF Q4_K_M, Q4, GGUF	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B Uncensored Aggressive I1 GGUF Alibaba / Qwen	27.0	GGUF IQ3_M, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B Uncensored Aggressive GGUF Alibaba / Qwen	27.0	GGUF IQ4_XS, GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B Terse Coder GGUF Alibaba / Qwen	27.0	GGUF q4_k_m, GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B TURBO Fable Cold Fusion 735 882 Heretic Uncensored NM DAU NVFP4 GGUF Alibaba / Qwen	27.0	GGUF GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B ROCmFPX GGUF Alibaba / Qwen	27.0	GGUF GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B MindMeld I1 GGUF Alibaba / Qwen	27.0	GGUF IQ3_M, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B I1 GGUF Alibaba / Qwen	27.0	GGUF IQ3_M, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B Human KO Enterprise Boundary I1 GGUF Alibaba / Qwen	27.0	GGUF IQ3_M, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B Fable5 Distill Abliterated Imatrix GGUF Alibaba / Qwen	27.0	GGUF GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B Fable Distill GGUF Alibaba / Qwen	27.0	GGUF IQ4_XS, GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B Cold Fusion GAIN V1.1 Q4 K M GGUF Alibaba / Qwen	27.0	GGUF q4_k_m, Q4, GGUF	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B Abliterated SFT I1 GGUF Alibaba / Qwen	27.0	GGUF IQ3_M, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B Abliterated MTP GGUF Alibaba / Qwen	27.0	GGUF IQ2_M, GGUF, gguf	15.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 27B 5090 Goldilocks GGUF Alibaba / Qwen	27.0	GGUF GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 27B Samantha Uncensored GGUF Alibaba / Qwen	27.0	GGUF Q4_K_M, GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 27B Q4 K M GGUF Alibaba / Qwen	27.0	GGUF q4_k_m, Q4, GGUF	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 27B NVFP4 GGUF Alibaba / Qwen	27.0	GGUF q3, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 27B Mtp Gguf Alibaba / Qwen	27.0	GGUF Q4_K_X, Gguf, Q4_K_XL	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 27B KR MTP GGUF Alibaba / Qwen	27.0	GGUF Q5_K_X, GGUF, Q5_K_XL	26.7	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 27B KR GGUF Alibaba / Qwen	27.0	GGUF Q5_K_X, GGUF, Q5_K_XL	26.7	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 27B GGUF Alibaba / Qwen	27.0	GGUF Q4_K_M, GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 27B Esper4 I1 GGUF Alibaba / Qwen	27.0	GGUF IQ3_M, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 27B Esper4 GGUF Alibaba / Qwen	27.0	GGUF IQ4_XS, GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 27B Architect Polaris2 Fable B F451 MTP ROCmFPX GGUF Alibaba / Qwen	27.0	GGUF Q6, GGUF, gguf	30.8	tight voraussichtlich knapp; Kontext/KV-Cache und Runtime prüfen	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 27B AEON RYS Agentic Coder PatchCode GGUF Alibaba / Qwen	27.0	GGUF IQ4_NL, GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Ostrich 27B Qwen3.8 260815 I1 GGUF Alibaba / Qwen	27.0	GGUF IQ3_M, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Medgap Qwen3.8 27B GGUF Alibaba / Qwen	27.0	GGUF IQ4_XS, GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Loes Qwen3.8 27B I1 GGUF Alibaba / Qwen	27.0	GGUF IQ3_M, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Huihui Qwen3.8 27B Abliterated GGUF Alibaba / Qwen	27.0	GGUF IQ3_M, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
GraphForge Qwen3.6 27B SFT GGUF Alibaba / Qwen	27.0	GGUF IQ4_XS, GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Elster Vernunft Qwen3.6 27B GGUF Alibaba / Qwen	27.0	GGUF IQ4_XS, GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Dagger Qwen3.6 27B GGUF MTP Alibaba / Qwen	27.0	GGUF Q3_K_M, GGUF, gguf	18.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
ATX Swift 1.5 Qwen3.8 27B Uncensored MTP GGUF Alibaba / Qwen	27.0	GGUF Q4_K_M, GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
ATX Swift 1.5 Qwen3.8 27B Uncensored IQ4 XS M GGUF Alibaba / Qwen	27.0	GGUF IQ4_XS, GGUF, gguf	23.2	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.8 20B Minitron Q4 K M GGUF Alibaba / Qwen	20.0	GGUF q4_k_m, Q4, GGUF	18.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Lumynax Reasoning DeepSeek R1 Qwen15b Gguf Alibaba / Qwen	15.0	GGUF Q4_K_M, Gguf, gguf	15.8	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.6 14B A3B VibeForged V2 GGUF Alibaba / Qwen	14.0	GGUF F16, GGUF, gguf	20.4	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3 14B Uncensored GGUF Alibaba / Qwen	14.0	GGUF IQ4_XS, GGUF, gguf	13.7	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3 14B PragReST I1 GGUF Alibaba / Qwen	14.0	GGUF IQ1_M, GGUF, gguf	20.4	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen2.5 Coder 14B Instruct Uncensored Q4 K M GGUF Alibaba / Qwen	14.0	GGUF q4_k_m, Q4, GGUF	13.7	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen2.5 Coder 14B Instruct Heretic GGUF Alibaba / Qwen	14.0	GGUF IQ4_XS, GGUF, gguf	13.7	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen2.5 Coder 14B Instruct GGUF Alibaba / Qwen	14.0	GGUF f16, GGUF, gguf	20.4	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen2.5 Coder 14B Instruct GGUF Alibaba / Qwen	14.0	GGUF fp16, GGUF, gguf	34.4	offload nur mit Offload oder reduzierten Einstellungen realistisch	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen2.5 14B Instruct KanColle Hibiki Verniy GGUF Alibaba / Qwen	14.0	GGUF F16, GGUF, gguf	20.4	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen2.5 14B Instruct Heretic Alibaba / Qwen	14.0	GGUF F16, gguf, Q4_K_M	13.7	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen Qwen2.5 Coder 14B Instruct GGUF Q8 0 Alibaba / Qwen	14.0	GGUF Q8, GGUF, Q8_0	20.4	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen Qwen2.5 Coder 14B Instruct GGUF Q6 K Alibaba / Qwen	14.0	GGUF Q6_K, GGUF, Q6	17.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen Qwen2.5 Coder 14B Instruct GGUF Q4 K M Alibaba / Qwen	14.0	GGUF Q4_K_M, GGUF, Q4	13.7	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen Qwen2.5 Coder 14B Instruct GGUF Q3 K M Alibaba / Qwen	14.0	GGUF Q3_K_M, GGUF, Q3	11.3	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Lfed Qwen2.5 Coder 14B Sql Gguf Alibaba / Qwen	14.0	GGUF Q4_K_M, Gguf, gguf	13.7	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Iol Qwen2.5 14B Instruct AWQ Alibaba / Qwen	14.0	AWQ AWQ	13.7	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
H100 Qwen3 14B MonEspaceSante CPT I1 GGUF Alibaba / Qwen	14.0	GGUF IQ2_M, GGUF, gguf	9.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
H100 Qwen3 14B MonEspaceSante CPT GGUF Alibaba / Qwen	14.0	GGUF IQ4_XS, GGUF, gguf	13.7	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Ektome Qwen2.5 Coder 14B Instruct PristinelyUncensored Alibaba / Qwen	14.0	GGUF IQ3_M, gguf	11.3	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Adi Qwen2.5 14B GLM 5.2 General GGUF Alibaba / Qwen	14.0	GGUF q4_k_m, GGUF, gguf	13.7	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
SkillGym Qwen3.5 9B GGUF Alibaba / Qwen	9.0	GGUF f16, GGUF, gguf	14.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
QwenPaw Flash 9B Heretic MTP GGUF Alibaba / Qwen	9.0	GGUF BF16, GGUF, gguf	23.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
QwenPaw Flash 9B Heretic Imatrix GGUF Alibaba / Qwen	9.0	GGUF BF16, GGUF, gguf	23.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
QwenPaw Flash 9B Heretic GGUF Alibaba / Qwen	9.0	GGUF BF16, GGUF, gguf	23.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B Ultra Uncensored Heretic V2 I1 GGUF Alibaba / Qwen	9.0	GGUF IQ1_M, GGUF, gguf	14.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B Ultra Uncensored Heretic V1 I1 GGUF Alibaba / Qwen	9.0	GGUF IQ1_M, GGUF, gguf	14.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B The Defiant Fable Uncensored Heretic NEO IMATRIX MAX MTP GGUF Alibaba / Qwen	9.0	GGUF BF16, GGUF, gguf	23.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B The Defiant Fable Uncensored Heretic NEO IMATRIX MAX GGUF Alibaba / Qwen	9.0	GGUF BF16, GGUF, gguf	23.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B TAP DPQ V6 GGUF Alibaba / Qwen	9.0	GGUF IQ1_S, GGUF, gguf	14.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B Samantha Uncensored GGUF Alibaba / Qwen	9.0	GGUF Q4_K_M, GGUF, gguf	10.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B Heretic Imatrix GGUF Alibaba / Qwen	9.0	GGUF BF16, GGUF, gguf	23.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B Heretic GGUF Alibaba / Qwen	9.0	GGUF BF16, GGUF, gguf	23.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B Haskell Rust Python Q6 K GGUF Alibaba / Qwen	9.0	GGUF q6_k, Q6, GGUF	13.1	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B Haskell Rust Python IQ4 XS GGUF Alibaba / Qwen	9.0	GGUF iq4_xs, GGUF, gguf	10.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B GGUF Alibaba / Qwen	9.0	GGUF BF16, GGUF, gguf	23.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B GGUF Alibaba / Qwen	9.0	GGUF IQ1_KT, GGUF, gguf	14.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B DeepSeek V4 Flash GGUF Alibaba / Qwen	9.0	GGUF Q3_K_M, GGUF, gguf	9.0	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B DFlash GGUF Alibaba / Qwen	9.0	GGUF bf16, DFlash, GGUF	23.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B Brainwaves GGUF Alibaba / Qwen	9.0	GGUF F16, GGUF, gguf	14.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
Qwen3.5 9B Base GGUF Alibaba / Qwen	9.0	GGUF Q4_K_S, GGUF, gguf	10.6	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
MiMo V2.6 Distill Qwen9B GGUF Alibaba / Qwen	9.0	GGUF IQ1_M, GGUF, gguf	14.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only
MiMo V2.6 Distill Qwen9B Ablitrated I1 GGUF Alibaba / Qwen	9.0	GGUF IQ1_M, GGUF, gguf	14.9	good passt voraussichtlich gut in das VRAM-Profil	not_recommended für AI HAT+ 2 eher zu groß oder nicht als Hailo-kompatibel belegt	85/100 metadata_only

Lokales Ollama-Inventar

Status: ok · Modelle: 22

Falls Ollama auf der Workstation läuft, werden installierte Modelle mit Größe, Digest, Familie und Quantisierung ausgelesen. Geschwindigkeit wird erst durch Benchmarkläufe gemessen.

API, Workstation oder Edge?

CheckCom nutzt diese Daten, um im KI-Auswahlassistenten lokale Alternativen zu API-/Cloud-Routen sichtbar zu machen. Für Unternehmen zählt nicht nur die Modellgröße, sondern auch Betriebsaufwand, Datenschutz, Latenz, Wartung und Auslastung.

Lokale / quantisierte News- und Release-Signale

Datum	Anbieter	Signal	Typ	Quelle
2026-10-05	Zhipu / GLM	GLM-5.2 Reflection stellt Beam vor: Ein neues Open-Weight-KI-Modell	new_model_or_version	Quelle
2026-10-05	DeepSeek	DeepSeek y Qwen Reflection AI presentó este lunes Beam Reflection AI lanciert Beam, den offenen KI-Modell-Wettbewerber aus China	new_model_or_version	Quelle
2026-10-05	Anthropic	Claude Code devpit	local_or_quantized_update	Quelle
2026-10-03	DeepSeek	DeepSeek V4 vs Qwen3.8 vs Kimi K3 vs GLM-5.3 I skipped the vendor tables and lined up the independen DeepSeek V4 vs. Qwen3.8 vs. Kimi K3 vs. GLM-5.3: Offene KI-Modelle im Vergleich	local_or_quantized_update	Quelle
2026-10-03	Anthropic	Claude to Open-Source-Tool BootLoops unterstützt KI bei präzisen wissenschaftlichen Berechnungen	local_or_quantized_update	Quelle
2026-10-02	DeepSeek	DeepSeek V4 vs Qwen3.8 vs Kimi K3 vs GLM-5.3 https Best Open-Weight LLMs Tested: DeepSeek V4 vs Qwen3.8 vs Kimi K3 vs GLM-5.3	local_or_quantized_update	Quelle
2026-10-02	OpenAI	GPT-6 OpenAI: GPT-6 Astra Ultrafast mit 8x-Geschwindigkeitssteigerung auf NVIDIA	new_model_or_version	Quelle
2026-10-01	Google / Gemini	Gemini AI Gericht verwerfen Antitrust-Klagen gegen Googles KI-Suche	local_or_quantized_update	Quelle
2026-10-01	OpenAI	GPT-6.1 OpenAI stellt GPT-6.1 Sol und Dots vor	new_model_or_version	Quelle
2026-09-30	Google / Gemini	Gemini 4 Google stellt Gemini 4 Argon mit 1 Mio. Tokens vor	new_model_or_version	Quelle
2026-09-30	Google / Gemini	Gemini 4 Google stellt Gemini 4 Argon vor – noch nicht nutzbar	new_model_or_version	Quelle
2026-09-30	OpenAI	GPT-6.1 OpenAI stellt Dots und GPT-6.1 Sol auf DevDay 2026 vor	new_model_or_version	Quelle
2026-09-30	OpenAI	GPT-6 OpenAI lancia Dots: IA-Agenten gegen Muse von Meta	new_model_or_version	Quelle
2026-09-30	OpenAI	GPT-6.1 OpenAI stellt GPT-6.1 Sol und Dots-KI-Agenten vor	new_model_or_version	Quelle
2026-09-30	Anthropic	GLM-5.3 Anthropic: Zhipus GLM-5.3 nahezu so stark wie Claude Mythos bei Cyber-Exploits	preview_or_experimental	Quelle
2026-09-30	OpenAI	GPT-6.1 OpenAI storniert GPT-6.1 Astra wegen Sicherheitsproblemen	new_model_or_version	Quelle
2026-09-30	OpenAI	Gemini Spark OpenAI startet persönlichen KI-Assistenten 'dots'	new_model_or_version	Quelle
2026-09-29	OpenAI	GPT-6.1 OpenAI lanciert GPT-6.1 Sol zu einem Fünftel des Preises	new_model_or_version	Quelle
2026-09-29	OpenAI	GPT-6.1 OpenAI stellt GPT-6.1 Sol mit verbesserter Leistung und geringeren Kosten vor	new_model_or_version	Quelle
2026-09-29	OpenAI	GPT-6.1 OpenAI streicht Veröffentlichung von GPT-6.1-Astra-Modell	new_model_or_version	Quelle
2026-09-29	OpenAI	GPT-6.1 GPT-6.1 Sol nahe an Astra, aber zu einem Fünftel des Preises	availability_or_api_update	Quelle
2026-09-29	OpenAI	GPT-6 OpenAI reduziert API-Credits im Pro-Plan und fördert Nutzungsgebühren	availability_or_api_update	Quelle
2026-09-29	OpenAI	GPT-6 OpenAI veröffentlicht GPT-6.1 mit stark reduzierten Preisen	new_model_or_version	Quelle
2026-09-29	OpenAI	GPT 6.1 OpenAI streicht Veröffentlichung von neuem KI-Modell	new_model_or_version	Quelle
2026-09-29	OpenAI	GPT-6.1 OpenAI stellt GPT-6.1 Sol und Dots-KI-Agenten vor	new_model_or_version	Quelle
2026-09-29	OpenAI	GPT-6.1 OpenAI stoppt GPT-6.1 Astra-Modell wegen Sicherheitsbedenken	new_model_or_version	Quelle
2026-09-29	Mistral AI	Mistral eröffnet Hub in München Mistral eröffnet KI-Hub in München	local_or_quantized_update	Quelle
2026-09-29	OpenAI	GPT-6.1 OpenAI stellte GPT-6.1 Astra zurück	new_model_or_version	Quelle
2026-09-29	OpenAI	GPT-6.1 OpenAI stoppt Veröffentlichung von GPT-6.1 Astra aus Sicherheitsgründen	new_model_or_version	Quelle
2026-09-29	OpenAI	GPT-6.1 OpenAI stoppt GPT-6.1 Astra wegen Sicherheitsbedenken	new_model_or_version	Quelle
2026-09-29	OpenAI	GPT 6.1 OpenAI stoppt Veröffentlichung von neuem KI-Modell	new_model_or_version	Quelle
2026-09-29	OpenAI	GPT 6.1 OpenAI stoppt neues KI-Modell nach Sicherheitsbedenken	new_model_or_version	Quelle
2026-09-28	Anthropic	Claude Sonnet 5.5 Anthropics Claude Sonnet 5.5 schneidet fast so gut wie Opus 5.5 ab	new_model_or_version	Quelle
2026-09-24	OpenAI	GPT-6 OpenAI lanciert GPT-6 Sol und Luna mit halb so hohen Preisen	new_model_or_version	Quelle
2026-09-22	OpenAI	GPT-6 OpenAI und Anthropic reagieren auf Konkurrenz mit günstigeren KI-Modellen	new_model_or_version	Quelle
2026-09-22	Anthropic	Claude Opus 5.5 Claude Opus 5.5 ist jetzt bei Vercel AI Gateway verfügbar	availability_or_api_update	Quelle
2026-09-22	xAI / Grok	Grok 4.7 Grok 4.7 Grok 4.7: xAI präsentiert leistungsstärkstes Modell für Codierung und Wissensarbeit	new_model_or_version	Quelle
2026-09-22	OpenAI	GPT-6 OpenAI senkt Preise für GPT-6 Sol und Luna um 50%	new_model_or_version	Quelle
2026-09-22	OpenAI	GPT-6 OpenAI reduziert API-Kosten für GPT-6 Sol und Luna um 50 %	new_model_or_version	Quelle
2026-09-22	OpenAI	GPT-6 OpenAI lanciert GPT-6 Sol und Luna mit 50 % günstigerer API	new_model_or_version	Quelle

Externe Benchmarkquellen

Diese Quellen dienen zunächst als Orientierung. Öffentliche Leistungswerte werden nur mit Messstatus und Vergleichbarkeit angezeigt.

Quelle	Typ	Fokus	Einordnung
LocalScore / OpenBenchmarking	external_reproducible	Generation speed, TTFT, Prompt speed, hardware comparison	Methodisch interessante externe Benchmarkquelle. Werte müssen nach Modell, Quantisierung, Runtime und Hardwareprofil abgeglichen werden.
QuelLLM.fr Benchmarks	external_public_result	RTX 5090, RTX 4090, Mac, CPU, llama.cpp, Q4	Nützlich für schnelle Hardwareorientierung. Veröffentlichung auf CheckCom nur mit Kennzeichnung als extern gemessen.
Öffentliche RTX-5090-LLM-Benchmarks / GitHub	community_benchmark	RTX 5090, VRAM, Power, Tokens/s, LM Studio / llama.cpp	Sehr relevant für RTX-5090-Klassen, aber je nach Repository unterschiedlich gut dokumentiert.
Ollama lokale API	local_metadata	installed models, size, digest, family, parameter size, quantization level	Sehr gut für lokale Modellinventarisierung. Geschwindigkeit entsteht erst durch eigene Laufzeitmessung.
Raspberry Pi AI HAT+ 2 Dokumentation	official_hardware_docs	Raspberry Pi 5, AI HAT+ 2, Hailo-10H, LLM/VLM, Edge AI	Offizielle Hardwarequelle für Eignung und Grenzen, keine vollständige Modell-Benchmarktabelle.