[Jeudi Techno] Tu as une question sur du matos, du programme ? T'es au bon endroit. (2026-02-19) (thelemmy.club)

submitted 2 days ago by Nono@piefed.social to c/forumlibre@jlai.lu

14 comments fedilink hide all child comments

Envie de poster une question technique sur du matériel ou du logiciel ?
Allez, viens !

you are viewing a single comment's thread
view the rest of the comments

[-] Ziggurat@jlai.lu 3 points 2 days ago

Pas vraiment une question, mais j'ai joué un peu avec LMstudio, qui permet de faire tourner des modèles de language en local. C'est devenu super-simple, avec un truc bien intégré/installé qui gère la balance CPU/GPU et la possibilité de récupérer directement des modèles sur HuggingFace.

Et bien, le modèle à 8B de paramètres marche bien et est très fluide sur mon PC. Reste le problème du qu'est-ce que je vais en faire ? déjà que le copilot que j'ai au bureau sert peu....

[-] Skunk@jlai.lu 2 points 2 days ago

J’ai fait les mêmes expériences avec text-generation gui et des modèles 70 et 36B gguf. (J’ai une 4090 ou un processeur avec npu sur l’autre machine)

Mon truc c’est plutôt la littérature donc je voulais voir si j’arrivais à générer du low-effort ok-tiers pour faire de la masse (20books to 50k).

Par ok-tiers je veux dire quelque chose généré par llm avec un contexte de 8192 (assez pour un chapitre) puis retravaillé à la main car il est moralement hors de question de produire de la merde, low effort oui, 💩 non.

Bah c’est nul, obtenir un résultat utile demande un gros effort de contexte, resumé et fiches personnages ainsi qu’une attention constante pour bien diriger le bousin.

Sachant que derrière faut relire et réécrire à la main c’est plus rapide de juste écrire pour directement avoir une qualité moyenne à bonne.

TLPL: Ça sert à rien sauf prendre des gigas sur mon disque.

[-] Ziggurat@jlai.lu 2 points 2 days ago

Sachant que derrière faut relire et réécrire à la main c’est plus rapide de juste écrire pour directement avoir une qualité moyenne à bonne.

Ça reste le gros problème, au début de chatGPT, j'avais un peu testé pour des aides de jeux de JDR et en fait, il faut repasser derrière pour éviter une info qui matche pas le scénario ou qui aurait du être "secret" le gain de temps est un peu limité.

C'est aussi le problème au travail, oui je peux rephraser un paragraphe, et avoir un truc en anglais correct, mais il faut l'écrire d'abord et le relire après. Donc le gain est limité.

Pourtant il y a des gens qui prétendent que ça change leur vie/travail

[-] Courantdair@jlai.lu 3 points 2 days ago* (last edited 2 days ago)

Les gens qui prétendent que ça change leur vie ne relisent pas je pense

[-] Skunk@jlai.lu 2 points 2 days ago

Je pense aussi, ils font justement parti de ces gens qui acceptent de publier/présenter/envoyer de la mauvaise qualité. C'est possiblement une stratégie et je peux le comprendre, mais je refuse de le faire.