Ir al contenido

Visión general

AvatarDirector es un plugin de Unreal Engine 5.7. Expone un único socket TCP en el puerto 4500 y acepta:

  • Audio PCM (48 kHz, 16-bit little-endian, mono) — controla el lip-sync.
  • Comandos JSON — controlan emociones, microexpresiones, gestos corporales, mirada y configuración en runtime.

Una sola conexión de backend alimenta al avatar con todo lo que necesita. El plugin lleva cada despacho al game thread antes de tocar el estado de animación, así no hace falta pelearse con las reglas de threading de UE.

  • Comandos y audio TCP en el puerto 4500 (configurable con -AvatarPort=N en la línea de comandos del juego).
  • Audio PCM enviado al lip-sync ML on-device (ONNX en CPU, con modelo mood opcional).
  • 8 emociones × 22 microexpresiones × montages de gestos corporales, secuenciados por una sola máquina de estados.
  • FSM de mirada autónoma más look-at explícito para comportamiento idle y conversacional.
  • Integración opcional con plugins compañeros (detectada automáticamente, oculta cuando no están).
  • Generación TTS — el backend produce PCM y lo envía; el avatar lo reproduce.
  • Lógica de conversación — el avatar se controla desde cualquier orquestador (Python, Node, un agente LLM, una escena scripteada).
  • Setup de pixel streaming — eso vive en el proyecto host, no en el plugin.