01.07.2025, 19:18
Habe nun mal mit einer fetten LLMA lokal gespeichert auf dem Mac einen Test gemacht, ganz ohne Api schlüssel. Im Gegensatz zum Debianserver verschluckt er sich bei lokalen Modellen nicht^^ De läuft im Moment zusätzlich auch über der Dyndns von mir, nur eben auf Port 5055.