Então, um review rapidinho de um experimento que fiz nesta semana.
Como os preços de memória RAM estão pra lá de Bagdá, pensei se a finada memória Optane da Intel seriam um bom substituto intermediário entre meu SSD (um WD Green que não bate 150 MB/s no btrfs com LUKS) e mais memória RAM.
Aí pesquisei e vi que os preços estão horripilantemente baixos, então pq não comprar? Basicamente, os módulos M10 de 16 GB são os só com Optane, então tecnicamente seriam bons pra esse tipo de serviço.
Chegou, abri, botei na placa mãe, particionei como swap, botei no fstab e vrau, 13,4 GiB de swap, zswap com as configurações zswap.max_pool_percent=90 zswap.accept_threshold_percent=95 e zstd como algoritmo de compressão. A máquina é um Artix com XFCE, Xeon E5 2667 V4, 16 GB de RAM e uma RTX 3050 6 GB.
Decidi jogar um Vic 3, estava suave, compilei uns projetos em java, não destruíram meu pc. Aí como eu não tinha nada tão amedrontador pra memória RAM, baixei um modelo de LLM aberta, PRA TESTAR PRESSÃO DE MEMÓRIA, que só o arquivo é maior do que tenho de VRAM + RAM, que foi o Qwen-AgentWorld-35B-A3B-UD-Q4_K_S.
Ele rodou tranquilo, aí coloquei um vídeo no FreeTube e abri o librewolf, perguntei umas coisas e rodou tranquilamente a geração de tokens em 20 tk/s no llama.cpp, de vez em quando deu umas engasgadas pequenas (bem menores do que quando o swap estava no SSD), mas pensando que tava usando aquilo tudo (na imagem) como swap, acho que sinceramente aguentou a pressão de memória/swap.
Aí acho que pode valer a pena, quem tem um arquivo swap num SSD SATA meio ruim ou num HD, vale como um meio termo, agora num SSD NVME caro, aí não sei se vale muito a pena.
Notei uma melhora boa no pc, não acho que foi lá muito útil, mas nesse preço, até injeção na testa.
all 6 comments