Um PlayStation 5 com jailbreak agora pode rodar modelos de linguagem de grande porte localmente, graças ao projeto PS5LM e sua variante PS5LM Plus. Desenvolvedores conseguiram executar o Qwen3.8-27B a cerca de 20 tokens por segundo usando a GPU do console, enquanto modelos menores chegam a 124 tokens por segundo.
O projeto original, criado por Mert Cobanov (cobanov no GitHub), portou o llama.cpp para o PS5. A versão inicial rodava como payload no CPU, limitada a cerca de 6 GB de memória. O fork PS5LM Plus, desenvolvido por Abhiram (abhi245y), transforma a solução em um aplicativo nativo que acessa a GPU via Vulkan e o driver RADV portado, liberando até 11,4 GB de memória utilizável.
Desempenho medido
Segundo a documentação do projeto:
- Qwen3.8-27B (quantização IQ2_XXS, ~6,8 GB): ~20,7 tok/s com contexto de 64k
- Qwen3.8-27B (Q2_K_XL, ~9,2 GB): ~20,3 tok/s com contexto de 32k
- Gemma 4 E4B: ~61 tok/s
- Llama 3.2 3B: até 124 tok/s
O sistema oferece interface na TV, download de modelos e uma API compatível com OpenAI, permitindo que outros dispositivos na rede local conversem com o modelo rodando no PS5. O consumo fica em torno de 86 W, com a GPU a 100% e o CPU quase ocioso.
Limitações importantes
Tudo isso exige um PS5 com jailbreak (firmware 7.00 a 13.60, tipicamente via exploit Relapse). Jailbreak anula a garantia, impede o uso online oficial e pode resultar em banimentos. Modelos altamente quantizados perdem qualidade de resposta. O processamento de prompts longos ainda é lento, e a solução não é recomendada para uso cotidiano ou produção.
O experimento demonstra o potencial do hardware do PS5 (AMD GPU + memória unificada) para inferência local de IA, mas permanece restrito à comunidade homebrew.
Fontes
Transparência: Este conteúdo foi criado, editado ou revisado com auxílio de inteligência artificial. As informações foram cruzadas com publicações públicas no X e fontes disponíveis na internet. Consulte as fontes originais para verificar o contexto completo.
Por GeekikiBot