▲ 46 ▼ Jeden ersten Sonntag auf die gute Seite wechseln! Heute ist der dritte Digital Independence Day - Wer macht mit? (di.day) submitted 7 months ago* by marv99@feddit.org [M] to c/de_edv@feddit.org 15 comments fedilink hide all child comments #did #diday Die Webseite zum “Digital Independence Day”: https://di.day/ 4 min Video von Marc Uwe Kling zum heutigen dritten DID: https://tube.funfacts.de/videos/watch/4821131a-7efc-47be-aafc-b64e8add3693 7 min Video mit Marc Uwe Kling und Känguru zum DID: https://tube.funfacts.de/w/71fg7mAm2AqyEPxXNAgEpn Vollständiger 39c3 Vortrag zum DID: https://media.ccc.de/v/39c3-die-kanguru-rebellion-digital-independence-day - Dauer 1 h
[–] marv99@feddit.org [S] 3 points 7 months ago (3 children) Welche Modelle möchtest Du denn laufen lassen? permalink fedilink source parent hideshow 3 child comments replies: [–] RandomUserNr8@feddit.org 4 points 7 months ago (2 children) Ich werde mal mit verschiedenen 8B Modellen starten. Muss dann mal schauen was klappt. hast du Tipps? permalink fedilink source parent hideshow 2 child comments replies: [–] kossa@feddit.org 4 points 7 months ago https://whatmodelscanirun.com/ Kann man seine GPU oder generell Specs eingeben und der spuckt aus, welche Modelle mit welcher Performance laufen permalink fedilink source parent [–] marv99@feddit.org [S] 3 points 7 months ago Ich spiele mit Ollama bisher auf einem älteren PC mit 16GB RAM, ohne GPU, nur auf einer i5 CPU. Die von mir zuletzt getesteten Modelle passen daher nicht so gut zu Deiner 8B Vorgabe. Ich zähle sie trotzdem mal auf: lfm2.5-thinking:latest Das sehr kleines Thinking-Modell LFM2.5 von LiquidAI, liefert erstaunlich flott gute Resultate, Das müsste mit seinen knapp 750MB gut auf die GPU passen. hf.co/byteshape/Qwen3-30B-A3B-Instruct-2507-GGUF:Qwen3-30B-A3B-Instruct-2507-Q3_K_S-3.25bpw.gguf Dieses optimierte instruct-Modell war richtig gut, dafür dass es auf meinem PC läuft, leider mit 12GB wohl zu groß für Deine 8B. Ein Modell dieser optimierten "Sammlung": https://huggingface.co/byteshape/Qwen3-30B-A3B-Instruct-2507-GGUF sam860/VibeThinker:1.5b-f16 Da ich es aufgehoben habe, war es wohl ok, ich kann mich aber nicht mehr daran erinnern was Stärken und Schwächen waren. Mit seine 3.6GB passt es aber in die 8B rein. gpt-oss:20b Das größere der beiden neuen, offenen Modelle von OpenAI, mit 13GB deutlich zu groß für 8B, aber läuft (gerade so) bei mir auf CPU mit 16GB RAM. Gute Resultate, aber zu langsam für tägliche Nutzung. permalink fedilink source parent
[–] RandomUserNr8@feddit.org 4 points 7 months ago (2 children) Ich werde mal mit verschiedenen 8B Modellen starten. Muss dann mal schauen was klappt. hast du Tipps? permalink fedilink source parent hideshow 2 child comments replies: [–] kossa@feddit.org 4 points 7 months ago https://whatmodelscanirun.com/ Kann man seine GPU oder generell Specs eingeben und der spuckt aus, welche Modelle mit welcher Performance laufen permalink fedilink source parent [–] marv99@feddit.org [S] 3 points 7 months ago Ich spiele mit Ollama bisher auf einem älteren PC mit 16GB RAM, ohne GPU, nur auf einer i5 CPU. Die von mir zuletzt getesteten Modelle passen daher nicht so gut zu Deiner 8B Vorgabe. Ich zähle sie trotzdem mal auf: lfm2.5-thinking:latest Das sehr kleines Thinking-Modell LFM2.5 von LiquidAI, liefert erstaunlich flott gute Resultate, Das müsste mit seinen knapp 750MB gut auf die GPU passen. hf.co/byteshape/Qwen3-30B-A3B-Instruct-2507-GGUF:Qwen3-30B-A3B-Instruct-2507-Q3_K_S-3.25bpw.gguf Dieses optimierte instruct-Modell war richtig gut, dafür dass es auf meinem PC läuft, leider mit 12GB wohl zu groß für Deine 8B. Ein Modell dieser optimierten "Sammlung": https://huggingface.co/byteshape/Qwen3-30B-A3B-Instruct-2507-GGUF sam860/VibeThinker:1.5b-f16 Da ich es aufgehoben habe, war es wohl ok, ich kann mich aber nicht mehr daran erinnern was Stärken und Schwächen waren. Mit seine 3.6GB passt es aber in die 8B rein. gpt-oss:20b Das größere der beiden neuen, offenen Modelle von OpenAI, mit 13GB deutlich zu groß für 8B, aber läuft (gerade so) bei mir auf CPU mit 16GB RAM. Gute Resultate, aber zu langsam für tägliche Nutzung. permalink fedilink source parent
[–] kossa@feddit.org 4 points 7 months ago https://whatmodelscanirun.com/ Kann man seine GPU oder generell Specs eingeben und der spuckt aus, welche Modelle mit welcher Performance laufen permalink fedilink source parent
[–] marv99@feddit.org [S] 3 points 7 months ago Ich spiele mit Ollama bisher auf einem älteren PC mit 16GB RAM, ohne GPU, nur auf einer i5 CPU. Die von mir zuletzt getesteten Modelle passen daher nicht so gut zu Deiner 8B Vorgabe. Ich zähle sie trotzdem mal auf: lfm2.5-thinking:latest Das sehr kleines Thinking-Modell LFM2.5 von LiquidAI, liefert erstaunlich flott gute Resultate, Das müsste mit seinen knapp 750MB gut auf die GPU passen. hf.co/byteshape/Qwen3-30B-A3B-Instruct-2507-GGUF:Qwen3-30B-A3B-Instruct-2507-Q3_K_S-3.25bpw.gguf Dieses optimierte instruct-Modell war richtig gut, dafür dass es auf meinem PC läuft, leider mit 12GB wohl zu groß für Deine 8B. Ein Modell dieser optimierten "Sammlung": https://huggingface.co/byteshape/Qwen3-30B-A3B-Instruct-2507-GGUF sam860/VibeThinker:1.5b-f16 Da ich es aufgehoben habe, war es wohl ok, ich kann mich aber nicht mehr daran erinnern was Stärken und Schwächen waren. Mit seine 3.6GB passt es aber in die 8B rein. gpt-oss:20b Das größere der beiden neuen, offenen Modelle von OpenAI, mit 13GB deutlich zu groß für 8B, aber läuft (gerade so) bei mir auf CPU mit 16GB RAM. Gute Resultate, aber zu langsam für tägliche Nutzung. permalink fedilink source parent