Então, um review rapidinho de um experimento que fiz nesta semana.
Como os preços de memória RAM estão pra lá de Bagdá, pensei se a finada memória Optane da Intel seriam um bom substituto intermediário entre meu SSD (um WD Green que não bate 150 MB/s no btrfs com LUKS) e mais memória RAM.
Aí pesquisei e vi que os preços estão horripilantemente baixos, então pq não comprar? Basicamente, os módulos M10 de 16 GB são os só com Optane, então tecnicamente seriam bons pra esse tipo de serviço.
Chegou, abri, botei na placa mãe, particionei como swap, botei no fstab e vrau, 13,4 GiB de swap, zswap com as configurações zswap.max_pool_percent=90 zswap.accept_threshold_percent=95 e zstd como algoritmo de compressão. A máquina é um Artix com XFCE, Xeon E5 2667 V4, 16 GB de RAM e uma RTX 3050 6 GB.
Decidi jogar um Vic 3, estava suave, compilei uns projetos em java, não destruíram meu pc. Aí como eu não tinha nada tão amedrontador pra memória RAM, baixei um modelo de LLM aberta, PRA TESTAR PRESSÃO DE MEMÓRIA, que só o arquivo é maior do que tenho de VRAM + RAM, que foi o Qwen-AgentWorld-35B-A3B-UD-Q4_K_S.
Ele rodou tranquilo, aí coloquei um vídeo no FreeTube e abri o librewolf, perguntei umas coisas e rodou tranquilamente a geração de tokens em 20 tk/s no llama.cpp, de vez em quando deu umas engasgadas pequenas (bem menores do que quando o swap estava no SSD), mas pensando que tava usando aquilo tudo (na imagem) como swap, acho que sinceramente aguentou a pressão de memória/swap.
Aí acho que pode valer a pena, quem tem um arquivo swap num SSD SATA meio ruim ou num HD, vale como um meio termo, agora num SSD NVME caro, aí não sei se vale muito a pena.
Notei uma melhora boa no pc, não acho que foi lá muito útil, mas nesse preço, até injeção na testa.
Ele tem aquelas informações de monitoramento de desgaste nos dados do SMART? Se tiver, volta aqui depois de um ano pra nos contar se o desgaste é significativo ou não kkkk
Experimentou ajustar o valor do swapiness pra ver encontra um ponto de melhor eprformance?
Tem sim:
Posso postar sim, acho que o 3Dxpoint é mais durável que o NAND normal. Pelo site da Intel, é uns 182 TB de escrita, acho que vai aguentar um bom tempo, principalmente só como swap.
De swappiness, eu tô usando o normal de 60, bem basicão. Tô usando mais o zswap em compensação.
No caso do zswap, ele só vai te ajudar na performance se a velocidade que seu pc comprime os dados for menor do que a escrita no ssd. Como essa mídia é diferenciada e você tem espaço de swap "sobrando", talvez funcionasse melhor sem. Já tentou?
Mas de qualquer forma, bem interessante o experimento
Fui testar comprimindo com o lz4, deu OOM, pc crashou kkkk. Acho que vou continuar com o zstd, mesmo que ele seja mais lento. A compressão salva demais.