ESC Hardware - PCs e Overclock
webpage
click to show
click to show
https://huggingface.co/OpenVINO/Qwen3-30B-A3B-Instruct-2507-int8-ov
https://docs.openvino.ai/2026/model-server/ovms_demos_continuous_batching_agent.html
Já está disponível modelos com Agentes rodando com Intel OpenVino
Esse em int8 não tem muita compressão então tem que ter muita memória RAM, consome mais de 33GB.
E não é fácil de instalar nativo, mas já fiz 70% no Debian Trixie Stable compilando python 3.12 com otimizações para o Intel OVMS 2026.2.1 Python On.