Quad RTX 4090 AI Workstation (reference profile): IA local e adequação para empresas
Uma estação de trabalho de IA local séria: quatro RTX 4090 combinam 96GB, suficiente para servir modelos emblemáticos de 70B e executar muitos agentes simultâneos de forma privada.
Eis o que o Quad RTX 4090 AI Workstation (reference profile) representa para uma empresa que quer executar IA privada em hardware que controla: que LLMs abertos encaixam, que agentes pode alimentar, o nível AI Business OS adequado e se deve executar em local, na nuvem ou em híbrido.
Recommended on-prem appliance
Run it on a GB10 box with AI Business OS pre-installed
The simplest way to put a private AI workforce on-premise: a compact GB10 Grace Blackwell appliance with ~128 GB unified memory — from ASUS, Dell or NVIDIA — shipped by BrainOutput with BrainOS pre-installed, so it runs your agents the day it arrives.
128GB unified · GB10 Grace Blackwell · on-prem
128GB unified · GB10 Grace Blackwell · on-prem
128GB unified · GB10 Grace Blackwell · on-prem
Especificações num relance
- Memória
- 96 GB
- Tipo de memória
- GDDR6X (4× 24GB)
- Largura de banda
- 1,008 GB/s
- FP16 aprox.
- 1,320 TFLOPS
- Arquitetura
- Ada Lovelace
- Processo
- TSMC 4N
- Consumo
- 1,800 W
- Ano de lançamento
- 2023
As especificações são valores approximate. Perfil representativo. 96GB de VRAM agregada alojam modelos abertos emblemáticos em 4 bits e com alta concorrência, mas consomem muita energia e exigem arrefecimento cuidado e uma plataforma de classe estação de trabalho/threadripper. Uma base sólida para um Business Command Center.
Pontuações de compatibilidade com IA
Heurísticas transparentes de 0 a 100 que combinam memória utilizável, largura de banda e computação: orientação relativa, não testes de desempenho.
LLMs compatíveis
Modelos de chat, programação e raciocínio de pesos abertos do nosso catálogo, classificados para o Quad RTX 4090 AI Workstation (reference profile), melhor encaixe primeiro.
- Qwen2.5 72BQwen · 72B · Qwen License
Cabe em Q8_0 (~78GB) com ~6.5GB de margem — cerca de 1 instância em simultâneo.
Q8_0 · ~78GBCorre bem - Llama 3.1 70BLlama · 70B · Llama Community License
Cabe em Q8_0 (~75GB) com ~9.5GB de margem — cerca de 1 instância em simultâneo.
Q8_0 · ~75GBCorre bem - Llama 3.3 70BLlama · 70B · Llama Community License
Cabe em Q8_0 (~75GB) com ~9.5GB de margem — cerca de 1 instância em simultâneo.
Q8_0 · ~75GBCorre bem - DeepSeek-R1 Distill Llama 70BDeepSeek · 70B · MIT
Cabe em Q8_0 (~75GB) com ~9.5GB de margem — cerca de 1 instância em simultâneo.
Q8_0 · ~75GBCorre bem - Mixtral 8x7B (MoE)Mistral · 47B · Apache-2.0
Cabe em Q8_0 (~50GB) com ~34.5GB de margem — cerca de 1 instância em simultâneo.
Q8_0 · ~50GBCorre bem - CodeLlama 34BCodeLlama · 34B · Llama Community License
Cabe em FP16 (~68GB) com ~16.5GB de margem — cerca de 1 instância em simultâneo.
FP16 · ~68GBCorre bem - Qwen2.5 32BQwen · 32B · Apache-2.0
Cabe em FP16 (~64GB) com ~20.5GB de margem — cerca de 1 instância em simultâneo.
FP16 · ~64GBCorre bem - Qwen3 32BQwen · 32B · Apache-2.0
Cabe em FP16 (~64GB) com ~20.5GB de margem — cerca de 1 instância em simultâneo.
FP16 · ~64GBCorre bem
Melhores modelos por carga de trabalho de negócio
Melhor para agentes de programação
Conclusão, revisão e refatoração de código sobre código-fonte privado.
- Qwen2.5 72BCorre bem
- Llama 3.3 70BCorre bem
- CodeLlama 34BCorre bem
Melhor para RAG / pesquisa
Respostas sobre os seus documentos com citações.
- Qwen2.5 72BCorre bem
- Llama 3.1 70BCorre bem
- Llama 3.3 70BCorre bem
Melhor para automação de negócio
Extração de documentos e fluxos de trabalho de back-office.
- Llama 3.1 70BCorre bem
- Gemma 2 27BCorre bem
- Gemma 3 27BCorre bem
Bom para um AI Business OS privado?
Sim — este é um anfitrião privado viável para o AI Business OS em implementação uma implementação à escala de um departamento, executando modelos como o Qwen2.5 72B em hardware que controla.
Modelo de destaque que consegue alojar: Qwen2.5 72B.
Onde fica aquém
- ▸Requer energia, arrefecimento e espaço físico de classe datacenter.
Agentes de negócio que fazem sentido
Como esta máquina encaixa nos principais arquétipos de agentes do AI Business OS:
- Bom encaixeAgente de Apoio ao Cliente
Responde a clientes a partir dos seus documentos, redige respostas, triagem de tickets.
- Bom encaixeAgente de Documentos / RAG
Lê contratos, relatórios e wikis e responde com citações.
- Bom encaixeAgente de Prova Jurídica (estilo DocMatch)
Pesquisa processos e documentos probatórios para revelar e ligar provas.
- Bom encaixeAgente de Hotelaria / Hospitalidade
Gere a comunicação com hóspedes, reservas e automação de receção.
- Bom encaixeAgente de Contabilidade / Odoo
Extrai faturas, reconcilia dados e conduz fluxos de trabalho de ERP.
- Bom encaixeAgente de Programação / Engenharia de Produto
Conclusão, revisão e refatoração de código localmente sobre código-fonte privado.
- CapazFounder Ops / Centro de Comando do Negócio
Uma frota de agentes cooperantes a gerir todo o negócio de forma privada.
“Assistência na nuvem” significa executá-lo localmente para cargas leves e recorrer à nuvem para trabalhos mais pesados. Veja casos de uso de negócio para saber como cada agente se mapeia ao hardware.
Perguntas frequentes
O Quad RTX 4090 AI Workstation (reference profile) é bom para executar IA local?+
Obtém 75/100 no nosso Local AI Score (nível Forte), com base nos seus 96GB de memória e na largura de banda/computação disponíveis. Isso torna-o adequado ao nível Business do AI Business OS.
Que LLMs consegue o Quad RTX 4090 AI Workstation (reference profile) executar?+
Confortavelmente: Qwen2.5 72B (Q8_0), Llama 3.1 70B (Q8_0), Llama 3.3 70B (Q8_0). Modelos maiores podem correr com quantização mais agressiva ou dividindo-os entre vários dispositivos.
Devo executar IA localmente ou na nuvem no Quad RTX 4090 AI Workstation (reference profile)?+
Local em primeiro lugar é recomendado. Capacidade suficiente para alojar agentes reais localmente, com privacidade e custo previsível; use a nuvem apenas para picos acima da procura máxima.
Posso transformar o Quad RTX 4090 AI Workstation (reference profile) num AI Business OS privado?+
Sim. O AI Business OS pode correr nesta máquina ao nível Business, dando-lhe agentes privados no seu próprio hardware. Veja o apelo à ação acima para começar.
Transforme o Quad RTX 4090 AI Workstation (reference profile) num AI Business OS privado
Execute os seus próprios agentes de IA em hardware que controla: privado por design, sem dados por utilizador a saírem das suas instalações. BrainOutput ajuda-o a escolher a máquina certa e a transformá-la num AI Business OS em funcionamento.
Hardware relacionado
Dell Precision 7960 AI Workstation
Uma torre profissional capaz de alojar grandes GPU pro (p. ex. RTX 6000 Ada / A6000) para IA local séria de secretária.
- Memória
- 48 GB
- Arquitetura
- Configurable (multi-GPU tower)
HP Z8 Fury G5 Workstation
Uma estação de trabalho topo de gama concebida para alojar várias GPU pro de largura dupla — uma plataforma de IA multi-GPU de secretária.
- Memória
- 96 GB
- Arquitetura
- Configurable (up to 4 GPUs)
Lenovo ThinkStation PX Workstation
Uma estação de trabalho de socket duplo construída para várias GPU profissionais — adequada a equipas que executam IA local mais pesada on-premise.
- Memória
- 96 GB
- Arquitetura
- Configurable (dual-socket, multi-GPU)
Supermicro AI Workstation
A linha de torres multi-GPU de secretária da Supermicro — uma plataforma flexível para IA local on-premise com várias placas pro ou de centro de dados.
- Memória
- 96 GB
- Arquitetura
- Configurable (multi-GPU tower)