13.05.2026, 23:27
(Dieser Beitrag wurde zuletzt bearbeitet: 13.05.2026, 23:30 von Xenos Yifu.)
Meine Güte, was eine Geburt. Jetzt habe ich eine eigene KI.
Open WebUI mit Qwen2.5-Coder-14B und zwei Modellen Claude und eine für meine Bedürfnisse angepasste Version von Claude.
Der Witz an der Sache, mit integrierter Websuche. (normal laufen die KI für zu Hause nur intern, was natürlich eine riesige Einschränkung ist)
Das ganze arbeitet auf meiner RTX 5060Ti Eagle OC 16gb Vram.
Unter 16gb Vram und dem Blackwell Chip ist das eher eine mühselige Sache.
Normal landen die Anfragen ja in der Cloud von Claude und werden dort bearbeitet.
Eben das kostet (Account), oder irgendwann fällt die Klappe und man muss mitten in der Arbeit anhalten und warten.
Bei mir werden die Anfragen zurück an meine GraKa gesendet und die arbeitet das ab und das kostet eben nichts und hat keinerlei Beschränkungen.
Open WebUI mit Qwen2.5-Coder-14B und zwei Modellen Claude und eine für meine Bedürfnisse angepasste Version von Claude.
Der Witz an der Sache, mit integrierter Websuche. (normal laufen die KI für zu Hause nur intern, was natürlich eine riesige Einschränkung ist)
Das ganze arbeitet auf meiner RTX 5060Ti Eagle OC 16gb Vram.
Unter 16gb Vram und dem Blackwell Chip ist das eher eine mühselige Sache.
Normal landen die Anfragen ja in der Cloud von Claude und werden dort bearbeitet.
Eben das kostet (Account), oder irgendwann fällt die Klappe und man muss mitten in der Arbeit anhalten und warten.
Bei mir werden die Anfragen zurück an meine GraKa gesendet und die arbeitet das ab und das kostet eben nichts und hat keinerlei Beschränkungen.
Hypergrid : xenolandia.de:8002:Xenotown
Grid : xenolandia.de:8002
Page: https://Xenopolias.de
Radio Xenolandia
Radiostream | Radio Facebook
Grid : xenolandia.de:8002
Page: https://Xenopolias.de
Radio Xenolandia
Radiostream | Radio Facebook