AI — O Runtime Universal para Modelos de Mundo  |  Para Estúdios e Desenvolvedores →    Também: Experimente a Demo para Consumidores →
Membro do NVIDIA Inception Desenvolvido na AWS Microsoft for Startups Saiba mais ↓
MOTOR ESPACIAL

O Runtime Espacial em C++ que uma LLM Pode Comandar

18 DLLs nativas, 30.738 funções exportadas e um servidor MCP que permite ao Claude, GPT ou qualquer modelo comandar uma cena espacial ao vivo. Não é um substituto do Unity/Unreal — é um runtime de IA espacial com internals transparentes contra os quais você pode fazer link.

Comande uma cena em 10 min ↓ Honesto vs Unity / Unreal

Motor Espacial RakuAI: stack de runtime comandado por LLM Um diagrama em camadas mostrando LLMs (Claude, GPT, Gemini, Copilot) no topo conectadas via 17 ferramentas MCP e aproximadamente 9.500 endpoints REST ao runtime espacial RakuAI, que repousa sobre uma base de 18 DLLs C++ nativas que expõem 30.738 exports, mirando headsets de XR, óculos inteligentes e desktop. Sua LLM Claude · ChatGPT · Gemini · Copilot · local 17 ferramentas MCP nativas + ~9.500 endpoints REST via api_call Runtime Espacial Física Renderizador / XR Animação Áudio Espacial SLM / IA / Voz 18 DLLs C++ nativas · 30.738 exports OpenXR 1.1 · DirectX 12 + Vulkan · CMake / MSVC · 5 patentes nos EUA concedidas Headsets de XR · óculos inteligentes · desktop · robótica
18
DLLs C++ Nativas
30.738
Funções Exportadas
17
Ferramentas MCP Nativas
~9.500
Endpoints REST via api_call

Comande uma cena em 10 minutos

O caminho de menor atrito: o servidor MCP contra o Claude Desktop ou o Cursor. Nenhuma instalação do SDK C++ necessária para começar.

1

Clone e configure o servidor MCP

O servidor MCP fica em src/mcp/ no repositório raku-runtime. É um servidor Python — sem necessidade de toolchain C++ para começar a conversar com uma instância em execução.

# configuração única
git clone https://github.com/RakuXR/raku-runtime
cd raku-runtime/src/mcp
pip install -r requirements.txt
2

Aponte o Claude Desktop para o servidor

Adicione a entrada do servidor MCP ao seu claude_desktop_config.json. O Claude Desktop o descobre automaticamente ao reiniciar.

{
  "mcpServers": {
    "raku-runtime": {
      "command": "python",
      "args": ["path/to/raku-runtime/src/mcp/server.py"]
    }
  }
}
3

Peça ao Claude para comandar sua cena

Agora o Claude tem 17 ferramentas MCP nativas e um passthrough para ~9.500 endpoints REST. Crie objetos, consulte o scene graph, execute física — tudo em linguagem natural.

# exemplo de prompt do Claude
"Crie um cubo de corpo rígido na posição (0, 2, 0),
 aplique um impulso para cima de 5 N e liste
 os nós da cena após 1 segundo."
4

Vá mais fundo: faça link direto com uma DLL

Quando o MCP ficar pequeno, faça link diretamente com RakuXR.dll ou RakuRenderer.dll. Todos os 30.738 exports são símbolos públicos — dumpbin /exports mostra todos, sem caixa-preta.

Guia completo de integração com o Claude Desktop →

17 ferramentas MCP nativas — traga seu próprio modelo

O servidor MCP expõe um conjunto curado de ferramentas cientes da cena, além de um passthrough universal api_call que dá acesso à API REST completa de ~9.500 endpoints. Traga Claude, GPT, Gemini, Copilot ou um modelo local — sem lock-in de modelo.

scene_query
Leia o scene graph — nós, transforms, propriedades
scene_spawn
Crie entidades com componentes na cena ao vivo
scene_transform
Obtenha ou defina transforms em espaço de mundo em qualquer nó
physics_apply
Aplique forças, impulsos ou constraints em tempo de execução
animation_play
Dispare ou misture estados de animação em rigs esqueléticos
asset_load
Faça streaming de assets do disco ou URL para a cena
anchor_create
Fixe âncoras espaciais world-locked entre sessões
audio_play
Dispare áudio espacial em uma posição 3D
render_capture
Capture um frame ou stream do renderizador
script_run
Execute scripting Lua no contexto da cena
xr_session
Gerencie sessão OpenXR, pose da cabeça, estado de rastreamento
input_inject
Injete eventos de entrada sintéticos para automação de testes
debug_inspect
Leia diagnósticos de runtime, memória e estatísticas de frame
ui_update
Altere painéis de UI espacial e conteúdo de overlay
network_sync
Envie ou consulte estado de scene-delta multiplayer
splat_load
Carregue um splat gaussiano 3D como objeto de cena de primeira classe
api_call
Passthrough universal para todos os ~9.500 endpoints REST

A autoria completa de cena conduzida por agente (criar, animar, scriptar, ancorar — o loop completo) é a meta de roadmap da Fase 2. As 17 ferramentas de hoje cobrem consulta, criação, transform, física e operações de assets. Documentação do servidor MCP →

Splat-native: a realidade capturada como objeto de cena

O motor é o substrato do Raku Capture. Um splat gaussiano 3D capturado com a câmera de um celular se torna um objeto de cena de primeira classe — posicionado, ancorado e endereçável por qualquer LLM através das mesmas ferramentas MCP de qualquer outra entidade. O mesmo caminho de runtime roda em XR, desktop e óculos.

Captura → cena em um único pipeline

splat_load faz streaming de um arquivo .spz capturado para a cena ao vivo. O splat herda imediatamente o scene graph, a física e os subsistemas de ancoragem.

Endereçável por LLM desde o primeiro dia

Peça ao Claude para mover um objeto capturado, consultar o que há no splat ou ancorá-lo a uma posição do mundo real — a superfície MCP trata um splat como qualquer outro nó.

Caminho de exibição OpenXR incluído

RakuXR renderiza o splat pelo mesmo pipeline foveado capaz de 120 Hz usado para todo conteúdo de cena — sem visualizador separado.

Conheça o Raku Capture →

World-locked, na precisão de submilímetro

A fusão de sensores alimenta a compreensão de cena, que fixa âncoras que mantêm sua posição entre sessões e dispositivos.

Ancoragem espacial: um pipeline de fusão de sensores para compreensão de cena para âncoras alimenta uma grade de sala em perspectiva onde pontos de âncora world-locked mantêm a posição com precisão de submilímetro. Fusão de sensores IMU · câmeras · profundidade Compreensão de cena planos · malhas · semântica Âncoras espaciais world-locked · persistentes < 1 mm de deriva

Por dentro do runtime

Deslize pelo pipeline e pelas 18 DLLs nativas que compõem o motor — agrupadas pelo que fazem.

FÍSICA — RakuPhysics

Motor de Física

Física 3D de nível de produção com corpos rígidos, constraints, raycasting e detecção de colisão. Simulação determinística com tempos de passo de submilissegundo mesmo em hardware de XR móvel. Totalmente endereçável via a ferramenta MCP physics_apply — uma LLM pode aplicar forças, consultar estado de colisão e alterar constraints a partir de um prompt em linguagem natural.

  • Corpos rígidos, juntas, constraints, raycasting
  • Passo determinístico — replays reproduzíveis e simulação conduzida por agente
  • Passo de submilissegundo em hardware de XR móvel
  • 1.278 funções exportadas em RakuPhysics.dll
Benefício-chave: Física consistente e confiável em VR, desktop e mobile — sem ajuste por plataforma. O mesmo passo que roda no headset roda headless em uma avaliação de agente.
VFX — RakuRenderer

Sistema de Partículas e VFX

Sistema de partículas acelerado por GPU com presets de VFX por gênero. Suporta emissores, atratores, colisão e escala de LOD. O gerenciamento automático de orçamento mantém as taxas de quadros travadas em 72–120 Hz em hardware de XR. O renderizador usa DirectX 12 com um back-end Vulkan (RakuVulkan) — ambos os caminhos exportam por RakuRenderer.dll (3.677 exports).

Benefício-chave: VFX cinematográfico que escala com o hardware — sem otimização manual. O mesmo gerenciador de orçamento que governa partículas governa as alterações de cena injetadas por agente.
ANIMAÇÃO — RakuAnimation

Sistema de Animação

Animação esquelética com blend trees, máquinas de estado, IK e retargeting. Suporta personagens animados concorrentes com transições suaves e blending em tempo de execução. A ferramenta MCP animation_play permite que uma LLM dispare ou misture estados de animação diretamente — sem integração personalizada.

  • Blend trees, máquinas de estado, IK, retargeting
  • Blending em tempo de execução — transições conduzidas por LLM
  • 1.900 funções exportadas em RakuAnimation.dll
Benefício-chave: Animação de personagem natural e responsiva sem configuração por personagem. Um agente pode dirigir o comportamento do personagem como um diretor faria — em linguagem natural.
ÁUDIO — RakuAudio

Áudio Espacial

Áudio espacial 3D baseado em HRTF com renderização binaural, oclusão, zonas de reverb e camadas de música adaptativa. Ajustado para alto-falantes de headsets de XR e fones de ouvido com sobrecarga mínima de CPU. A ferramenta MCP audio_play permite que uma LLM posicione sons em qualquer posição 3D na cena.

  • Renderização binaural HRTF — percepção direcional natural
  • Oclusão, zonas de reverb, camadas de música adaptativa
  • 1.654 funções exportadas em RakuAudio.dll
Benefício-chave: Os jogadores localizam sons naturalmente no espaço 3D — crítico para XR imersivo. Âncoras de áudio posicionadas por agente seguem o scene graph como objetos visuais.

Comparação honesta: RakuAI vs Unity / Unreal

Não somos um substituto do Unity ou do Unreal. Vencemos onde eles são fracos. Esta tabela permanece pública porque a confiança do desenvolvedor importa mais do que retórica de marketing.

CapacidadeRakuAIUnityUnreal Engine
LLM comanda cena ao vivo (MCP)Nativo — 17 ferramentas + passthrough de ~9.500 endpointsNão integrado; requer plugin personalizadoNão integrado; requer plugin personalizado
Exports nativos transparentes30.738 símbolos públicos — faça link direto com qualquer DLLRuntime fechado; camada IL2CPP / gerenciadaRuntime fechado; camada UObject / Blueprint
Orçamento térmico de classe óculosInferência on-device RakuSLM; ajustada para envelope abaixo de 5WNão é um alvo de designNão é um alvo de design
OpenXR 1.1 (rastreamento de mão/olho, âncoras)RakuXR — 2.704 exports, superfície OpenXR completaSuportado via plugin OpenXRSuportado via plugin OpenXR
Splat / 3DGS como objeto de cena de primeira classeNativo — ferramenta MCP splat_load, integrada ao scene graphPacotes de terceiros; não nativo ao scene graphPacotes de terceiros; não nativo ao scene graph
Ferramentas de editor e loja de assetsEstágio inicial — DLL RakuEditor; sem editor gráfico aindaEditor padrão da indústria; grande loja de assetsEditor padrão da indústria; marketplace Fab
Pipeline de console AAANão é um alvo atualSuporte completo de certificação de consoleSuporte completo de certificação de console
Amplitude da documentaçãoEsparsa — Fase 0 (referências por DLL ainda devidas)ExtensaExtensa
Traga sua própria LLM (sem lock-in)Qualquer modelo compatível com MCP — Claude, GPT, localSem equivalente nativoSem equivalente nativo
Verificabilidade da contagem de exportsSaída do dumpbin versionada no repositório — auditávelN/A — runtime fechadoN/A — runtime fechado

Comparação honesta completa (mais subsistemas, licenciamento, preços) → compare.html

Onde o runtime está hoje

Publicamos o estado honesto para que você possa avaliar o runtime com fatos reais, não com marketing.

Fase 0 — Tornando o runtime confiável e consumível

Em produção e confiável: 18 DLLs C++ com 30.738 funções exportadas (verificadas via dumpbin /exports, rastreadas em raku-runtime/dll_exports/ como artefato de CI). Servidor MCP em src/mcp/ com 17 ferramentas nativas ativas. Suporte a OpenXR 1.1 em RakuXR. Membro do NVIDIA Inception (maio de 2026). 5 patentes nos EUA concedidas (prioridade julho de 2012).

Defeito ativo: RakuAssets tem uma correção de linker LNK2001 em andamento. As outras 17 DLLs estão verdes no CI; uma build limpa 18/18 é iminente mas ainda não confirmada. Este aviso será removido quando a correção for aplicada.

Ainda devido (trilhas da Fase 0): documentação de referência por DLL; uma matriz de capacidades de DLL publicada; o vídeo de quickstart "comande sua cena em 10 minutos". Os primeiros embarcadores OEM embutidos são da Fase 1.

Nota sobre a contagem de exports: 30.738 é a baseline documentada/main. Uma build Release local de um branch WIP não mesclado mostra +46 (30.784) — apenas o número 30.738 é canônico para uso público.

Otimizado para XR — e para o envelope térmico dos óculos

Cada subsistema é otimizado para os orçamentos de quadro exigentes de headsets de VR e AR — e para as restrições mais apertadas do hardware de óculos inteligentes, onde Unity e Unreal não miram.

Renderização XR a 120 Hz

Pipeline de renderização foveado com LOD automático mantém os orçamentos de quadro em toda classe de headset.

Inferência SLM On-Device

O RakuSLM mira o envelope térmico abaixo de 5 W do hardware de óculos inteligentes — não rigs de GPU com fio.

Internals Transparentes

Todos os 30.738 exports são símbolos públicos. Faça profiling e otimize no nível de C++ — sem caixa-preta.

Comece pelo quickstart do MCP Recursos de XR Sistemas de IA

Membro do NVIDIA Inception

O motor que move o Raku Capture é construído por um membro do NVIDIA Inception. Usamos o catálogo NGC do programa, créditos de nuvem de parceiros e treinamento DLI para acelerar o pipeline espacial. Saiba mais →