OpenAI rearquitectó su stack WebRTC para priorizar la latencia de voz en tiempo real y dice que lo hace para una audiencia masiva: más de 900 millones de usuarios activos semanales, según OpenAI (publicación del 4/5/2026). Esta nota técnica explica por qué el problema no es solo optimizar modelos, sino cómo enrutamos paquetes UDP desde el primer paquete hasta el proceso que mantiene la sesión. Para aplicaciones de voz, la diferencia práctica es clara: si el paquete tarda demasiado en llegar, la conversación se siente robótica; la referencia técnica para latencia aceptable en conversaciones en tiempo real es inferior a 150 ms one-way según ITU-T G.114, por eso cada salto importa (ITU-T G.114). Vemos que la infraestructura de red es tan relevante como el modelo para que la IA de voz “se sienta” natural.

¿Qué hizo OpenAI y por qué importa?

OpenAI abandonó el patrón one-port-per-session y optó por una arquitectura que separa el enrutamiento de paquetes del terminador de protocolo: un relay liviano que hace forwarding y un transceiver que mantiene todo el estado WebRTC. Esa decisión es práctica para su carga, donde la mayoría de las sesiones son 1:1 y extremadamente sensibles a latencia. Según OpenAI, exponer un puerto UDP por sesión en escala puede implicar decenas de miles de puertos públicos, lo que complica balanceadores, firewalls y escalado en Kubernetes (OpenAI, 4/5/2026). Antes, muchos sistemas usaban SFU o asignaciones TURN en entornos multiparte; ahora, para tráfico punto a punto con alta sensibilidad temporal, conviene concentrar la lógica pesada en un terminador único.

El valor tangible es operativo y de seguridad: menos superficie pública UDP facilita auditorías y reduce complejidad en rollout. Para el desarrollador final, esto se traduce en arranques de sesión más rápidos y menor jitter en las respuestas habladas. Pero no es solo ingeniería elegante: es ingeniería con consecuencias directas en la experiencia de usuario.

La ingeniería detrás: relay, transceiver y el hook del ufrag

La clave técnica es el primer paquete. OpenAI usa el ICE username fragment, el ufrag, como pista de enrutamiento que el relay lee de forma mínima para enviar el paquete al transceiver que creó la sesión. El relay no participa en DTLS ni descifra media; solo parsea STUN/ufrag y forwardea, manteniendo un estado efímero en memoria y una recuperación apoyada en Redis para resiliencia. Esa separación permite que el transceiver conserve ownership de ICE, DTLS y SRTP mientras la parte de forwarding escala horizontalmente.

En la práctica, implementaron optimizaciones de sistema operativo: SO_REUSEPORT para distribuir carga entre workers, pinning de threads y buffers prealocados en Go para evitar GC y latencias inesperadas. La decisión de evitar kernel bypass reduce complejidad operativa y mantenibilidad. Desde la perspectiva de infraestructura, es una apuesta a encajar WebRTC en Kubernetes sin sacrificar compatibilidad cliente, que sigue hablando WebRTC estándar.

¿Cómo impacta esto en el mercado argentino?

Para empresas y desarrolladores en Argentina y la región, la lección es doble. Por un lado, mejorar el primer salto y acortar el path hacia la red de OpenAI reduce jitter y hace que asistentes y agentes de voz sean usables en flujos interactivos; eso es clave en call centers, kioscos y asistentes móviles donde la latencia se nota. OpenAI además menciona uso de geo-steering con Cloudflare para que la entrada a su red quede geográficamente cercana al usuario (OpenAI, 4/5/2026). Por otro lado, esto pone el foco en la adopción: sin métricas de latencia públicas y sin documentación en español, la adopción regional será más lenta porque los equipos necesitarán validar rendimiento con sus propias pruebas.

Comparado con soluciones que envían audio entero para procesarlo off-line, el enfoque de streaming reduce la espera perceptible y permite barge-in y generación mientras el usuario habla. Eso cambia el producto: de push-to-talk a conversación natural. Pero insistimos en que para elegir una solución a producción en LatAm se necesitan benchmarks reproducibles en la región y guías en español.

¿Es esto seguro y quién lo debe auditar?

El diseño reduce la superficie UDP pública, lo que técnicamente facilita controles de firewall y auditorías. Sin embargo, seguridad y privacidad no dependen solo de la topología de puertos: importan la retención de audio, la posibilidad de reenvío a terceros y las políticas de acceso a las transcripciones y modelos. OpenAI describe Redis para recuperación de rutas y un relay que no descifra media, pero no publica en esta nota métricas de disponibilidad, latencia promedio por región, tasas de packet loss observadas ni políticas de retención (OpenAI, 4/5/2026). Eso es información que exigimos.

Apoyamos la ingeniería que permite voz en tiempo real, pero desde nuestras posiciones anteriores reiteramos: antes de adopciones amplias en entornos críticos pedimos métricas públicas, documentación en español y gobernanza con revisión humana. La infraestructura es un avance técnico, no una garantía de privacidad ni de equidad operativa. Queremos ver números, pruebas en LatAm y rutas claras de auditoría humana antes de recomendar desplegar esta tecnología a escala.