A Computação de IA é Mais do que o SoC Principal! Uma Visão Clara do Papel Real do RK1820 no Sistema RK3588

Por que cada vez mais dispositivos de ponta falam sobre NPUs e coprocessadores? O RK3588 já é um SoC (System on a Chip) poderoso de 6 TOPS (INT8), mas em cenas complexas, como inferência de múltiplas tarefas, paralelismo de modelos e análise de vídeo-IA, o limite de computação de um único chip ainda existe. O RK1820 foi criado exatamente para assumir essa fatia de carga e aliviar a “ansiedade computacional” do SoC principal. Em equipamentos de IA de ponta, o processador host não luta mais sozinho; quando as tarefas de IA superam a capacidade de agendamento da CPU/NPU tradicional, o coprocessador entra silenciosamente e assume parte da carga de trabalho inteligente.

O RK1820 é um coprocessador construído especificamente para inferência de IA e expansão de computação; ele se combina de forma flexível com SoCs host como o RK3588 e o RK3576 e se comunica com eles de forma eficiente através de interfaces PCIe ou USB.

No sistema RK3588 + RK1820, o pipeline de tarefas de IA é decomposto em uma arquitetura de quatro camadas:
Aplicativo → Middleware → Execução do Coprocessador → Controle e Apresentação.
Host RK3588: lida com o agendamento de tarefas, pré-processamento de dados e saída de resultados, governando todo o fluxo de trabalho.
Coprocessador RK1820: dedicado à inferência de IA de alta computação, acoplado ao host via PCIe, formando um modelo de colaboração “controle leve + computação pesada”.

A camada de aplicação é onde cada tarefa de IA começa; ela traduz os requisitos do usuário — análise de imagem, detecção de objetos, perguntas e respostas de LLM do lado da ponta, etc. — em comandos de tarefas executáveis pelo sistema e os passa para a camada de middleware por meio de APIs padronizadas. Esta camada é totalmente tratada pelo host RK3588, que gerencia a interação do usuário, a lógica de negócios e os dados periféricos.

Recepção de tarefas: adquire comandos do usuário via câmeras, painéis sensíveis ao toque, Ethernet, UART, etc.

• Segurança inteligente: detectar pessoas em quadros de vídeo
• Inspeção industrial: identificar defeitos de superfície em produtos
• LLM de ponta: converter entrada de voz em texto e formar uma tarefa de perguntas e respostas

Padronização de comandos: transforma entrada não estruturada em parâmetros de tarefas estruturados

• Tarefa de visão: resolução de entrada, versão do modelo, requisitos de saída
• Tarefa LLM: tokens de entrada, versão do modelo, comprimento máximo de saída

A camada de middleware é o hub colaborativo: ela julga cada tarefa, aloca recursos, pré-processa dados e governa o tráfego do barramento. Ela decide se a tarefa é executada no host ou é descarregada para o coprocessador.
Somente RK3588; RK1820 não participa da configuração PCIe ou gerenciamento de interrupções — ele simplesmente executa os trabalhos de inferência despachados pelo host.

Classificação e agendamento de tarefas

• Processamento local: tarefas de baixa computação ou críticas para a latência (dimensionamento de imagem, inferência de IA leve) são tratadas pela CPU/NPU/RGA do RK3588.
• Descarregamento para RK1820: tarefas de alta computação (detecção multiclasse YOLOv8, inferência LLM, segmentação semântica) são enviadas para o RK1820. Uma vez que o RK1820 assume, a CPU/NPU do host é liberada para outro trabalho.

Pré-processamento de dados

• Visão: cortar, remover ruído, normalizar, reordenar canais.
• Texto: tokenizar, preencher, codificar.

Controle de comunicação do barramento

• Estabelece link via PCIe ou USB3.
• A transferência de dados usa DMA, sem intervenção da CPU.
• Emite comandos de controle de inferência: iniciar NPU, definir precisão, levantar interrupção de conclusão.

Esta camada é o núcleo de inferência, acionado exclusivamente pelo coprocessador RK1820, dedicado à inferência de IA de alta computação.
RK1820 ativo; RK3588 não interfere na inferência, ele apenas espera os resultados. Tempo limite ou exceções são tratados pelo RK3588 via comandos de reinicialização PCIe.

Recepção e preparação da tarefa

Recebe dados, pesos do modelo e comandos despachados pelo RK3588; os escreve na DRAM de alta largura de banda local, carrega o modelo e configura a NPU.

Computação de inferência da NPU

• Detecção de objetos (YOLOv8n): conv → BN → ativar → pool → pós-processar NMS.
• Inferência LLM (Qwen2.5 3B): preencher tokens de entrada → gerar token por token de decodificação.
• Otimização de inferência: fusão de operadores, compressão de pesos.

Retorno do resultado

• Retorna coordenadas de caixa delimitadora, IDs de classe e pontuações de confiança para detecção.
• Retorna a matriz de tokens para o LLM.

Esta camada é o ponto final de cada tarefa de IA: ela converte os resultados brutos de inferência do RK1820 em saída visual ou pronta para negócios e fecha o ciclo.
RK3588 ativo; RK1820 apenas fornece os dados brutos de inferência.

Pós-processamento do resultado

• Mapear coordenadas de volta para o tamanho original da imagem.
• Decodificar tokens em linguagem natural.
• Contar defeitos na inspeção industrial.

Controle do sistema e saída de feedback

• Segurança inteligente: exibir vídeo com sobreposições de detecção, acionar alarmes.
• Inspeção industrial: linha de comando para rejeitar produtos defeituosos.
• LLM de ponta: mostrar texto + anúncio de voz.

Valor da sinergia: não apenas mais rápido, mas mais inteligente

Simplificando: o RK3588 executa o show e mantém tudo no caminho certo, enquanto o RK1820 oferece rajadas de computação bruta; juntos, eles tornam os dispositivos de IA de ponta “mais inteligentes, rápidos e sem problemas”.
Siga-nos para mais notícias sobre o RK1820 e atualizações do SDK, tutoriais novos e demonstrações prontas para uso.