• Proporcionamos información sobre el programa de eficiencia de capacidad de Meta, donde desarrollamos una plataforma de agentes de IA que ayuda a encontrar y resolver automáticamente problemas de rendimiento en toda nuestra infraestructura.
• Aprovechando la experiencia en dominios cifrados a través de un sistema unificado, interfaz de herramienta estandarizada, Estos agentes ayudan a ahorrar energía y brindan a los ingenieros más tiempo para solucionar problemas de rendimiento y desarrollar nuevas innovaciones de productos..

---

Hemos creado una plataforma unificada de agentes de IA que codifica la experiencia de ingenieros de eficiencia experimentados en archivos reutilizables., capacidades componibles. Estos agentes ahora automatizan tanto la búsqueda como la resolución de problemas de rendimiento., restaurar cientos de megavatios (megavatio) de poder y condensando horas de investigaciones de regresión manual en minutos, Permitir que el programa amplíe la implementación de MW a un número creciente de áreas de productos sin aumentar proporcionalmente la plantilla..

en defensa, FBdetectarLa herramienta interna de detección de regresión de Meta, captura miles de regresiones semanalmente; Una solución automatizada más rápida significa menos megavatios desperdiciados en acumulación en toda la flota. En el lado ofensivo, La solución de oportunidades impulsada por IA se está expandiendo a áreas de productos adicionales cada seis meses., Manejar un volumen creciente de pedidos que los ingenieros nunca podrían lograr manualmente.. Tomados juntos, Así sigue el programa de eficiencia de capacidad de Meta aumentando la entrega de MW sin hacer crecer proporcionalmente el equipo. El objetivo final es un motor de eficiencia autosostenible en el que la IA se haga cargo de la cola larga..

Así es como funciona y hacia dónde vamos:

• La eficiencia a hiperescala requiere tanto ofensiva (buscando optimizaciones proactivamente) y defensa (interceptar y mitigar las regresiones que llegan a la producción); La IA puede acelerar ambos.
• Hemos creado una plataforma unificada que combina interfaces de herramientas estandarizadas con experiencia encriptada para automatizar investigaciones en ambos lados..
• Estos sistemas de IA ahora forman la infraestructura para el programa de Eficiencia de Capacidad., que ha recuperado cientos de megavatios de electricidad, suficiente para alimentar a cientos de miles de hogares estadounidenses durante un año.
• La automatización del diagnóstico puede comprimir aproximadamente 10 horas de investigación manual sobre aproximadamente 30 minutos, mientras que los agentes de IA automatizan completamente el camino desde la oportunidad de eficiencia hasta la solicitud de extracción lista para revisión.

Presentación del programa de eficiencia de capacidad

Si el código que implementa sirve a más de 3 mil millones de personas, incluso un 0.1% La regresión del rendimiento puede resultar en un consumo de energía adicional significativo..

En la organización de Eficiencia de Capacidad de Meta, Vemos la eficiencia como un esfuerzo bidireccional.:

1. Ataque: Encontrar y desplegar oportunidades (cambios de código proactivos) para hacer que nuestros sistemas existentes sean más eficientes.
2. Defensa: Monitorear el uso de recursos en producción para detectar regresiones., rastrearlos hasta una solicitud de extracción, y proporcionar remediación.

Estos sistemas funcionaron bien y desempeñaron un papel importante en los esfuerzos de eficiencia de Meta durante años.. Sin embargo, resolver realmente los problemas que han surgido conduce a un nuevo cuello de botella: tiempo de ingeniería humana.

Este tiempo de ingeniería humana se puede dedicar a cualquiera de las siguientes actividades.:

• Consultar datos de perfiles para encontrar oportunidades para optimizar funciones destacadas.
• Revisa la descripción, documentación, y ejemplos anteriores de una oportunidad de eficiencia para comprender el mejor enfoque para implementar una optimización.
• Revisar el código actual y las implementaciones de configuración que pueden haber resultado en un cambio drástico en el uso de recursos..
• Revisar las discusiones internas actuales sobre lanzamientos que pueden estar relacionados con la regresión..

Muchos ingenieros de Meta utilizan nuestras herramientas de eficiencia para trabajar en estos problemas todos los días.. Pero no importa la calidad de las herramientas., Los ingenieros tienen tiempo limitado para abordar problemas de rendimiento cuando innovar nuevos productos es nuestra principal prioridad..

empezamos a preguntar: ¿Y si la IA pudiera hacer la investigación y la resolución??

El ataque y la defensa tienen la misma estructura.

El gran avance fue darse cuenta de que ambos problemas tienen la misma estructura.:

Esto significó que no necesitábamos dos sistemas de IA separados.. Necesitábamos una plataforma que pudiera servir a ambos.

Lo construimos en dos niveles.:

1. herramientas MCP: Estas son interfaces estandarizadas para que los LLM llamen al código. Cada herramienta hace un trabajo: consultar datos de perfil, recuperar resultados del experimento, recuperar el historial de configuración, código de búsqueda, o extraer documentación.
2. habilidades: Estos codifican la experiencia sobre la eficiencia del rendimiento.. Una habilidad puede indicarle a un LLM qué herramientas utilizar y cómo interpretar los resultados.. Capta patrones de razonamiento que ingenieros experimentados han desarrollado a lo largo de los años., como «Consulte los principales puntos finales de GraphQL para obtener regresiones de latencia de puntos finales» o «Busque cambios de esquema recientes cuando la función afectada adopte la serialización.»

Juntos, Las herramientas y capacidades hacen avanzar un modelo de lenguaje generalizado hasta convertirlo en algo que puede aplicar la experiencia en el dominio que los ingenieros superiores suelen poseer.. Lo mismo Herramientas Puede fortalecer tanto el ataque como la defensa.. Sólo difieren las habilidades.

Defensa: Detectar regresiones antes de que empeoren

FBdetectar es la herramienta interna de detección de regresión de Meta que puede detectar degradaciones de rendimiento tan pequeñas como 0.005% en entornos de producción ruidosos. Analiza datos de series de tiempo de la siguiente manera:

Cuando FBDetect encuentra una regresión, inmediatamente intentamos atribuirlo a un cambio de código o configuración. Este es un primer paso importante para comprender lo que sucedió.. Esto se hace principalmente utilizando técnicas tradicionales, como correlacionar funciones de regresión con solicitudes de extracción actuales.. Después de identificar la causa raíz, Por lo general, se notifica a los ingenieros y se espera que tomen medidas., como optimizar el último cambio de código. Para acelerar esto, agregamos una característica adicional:

Solucionador de regresión de IA

Nuestro AI Regression Solver es el componente más nuevo y prometedor de FBDetect que genera una solicitud de extracción para reenviar automáticamente la regresión.. Tradicionalmente, causas fundamentales (solicitudes de extracción) que condujeron a la degradación del rendimiento fueron revertidos (ralentizando así la velocidad de desarrollo) o ignorado (aumentando así innecesariamente el uso de recursos de infraestructura).

Ahora nuestro agente de codificación interno está activado para hacer lo siguiente:

1. Reúna contexto con herramientas: Encuentra los síntomas de la regresión., p.ej. B. las funciones que han retrocedido. Encuentra la causa raíz (una solicitud de extracción) de la regresión, incluyendo los archivos y líneas exactos que cambiaron.
2. Aplicar experiencia con las siguientes habilidades.: Aproveche el conocimiento sobre mitigación de regresión para la base de código específica, idioma, o tipo de regresión. Por ejemplo, Las regresiones en el registro pueden mitigarse aumentando la recolección de muestras..
3. Crear una solución: Cree una nueva solicitud de extracción y envíela al autor de la causa original para su revisión..

Delito: Convertir oportunidades en código entregado

En el lado ofensivo, Las “oportunidades de eficiencia” son cambios de código conceptuales propuestos que se cree que mejoran el rendimiento del código existente.. Creamos un sistema que permite a los ingenieros ver una oportunidad y solicitar una solicitud de extracción generada por IA que la implemente.. Lo que antes requería horas de investigación ahora requiere solo unos minutos para revisarlo e implementarlo..

El oleoducto refleja el solucionador de regresión de IA defensivo:

1. Reúna contexto con herramientas: El agente de IA busca:
   1. Metadatos de oportunidad.
   2. Documentación que explica el patrón de optimización..
   3. Ejemplos que muestran cómo se han resuelto oportunidades similares.
   4. Los archivos y funciones específicos involucrados.
   5. Criterios de validación para confirmar que la solución funciona..
2. Aplicar experiencia con las siguientes habilidades.: Aprovechar el conocimiento de ingenieros experimentados sobre un tipo específico de oportunidad de eficiencia, codificado en una habilidad. Por ejemplo, memorizar una función específica para reducir el uso de la CPU.
3. Crear resolución: Crear una solución candidata con barandillas, revisar la sintaxis y el estilo, y confirme que aborda el problema correcto. Vea el código generado en el editor del ingeniero y aplíquelo con un clic.

Lo importante es que usemos lo mismo. Herramientas como defensa: datos de perfil, documentación, búsqueda de código. Lo que es diferente es que habilidades.

Una plataforma, rendimientos crecientes

Nuestra arquitectura unificada con herramientas y fuentes de datos compartidas era una abstracción limpia.. Cada agente nuevo y existente tiene una manera fácil de capturar el contexto de rendimiento sin tener que reinventar la rueda con las interfaces que creamos..

Esta publicación se centró en nuestros casos de uso iniciales.: caídas de rendimiento y oportunidades. dentro de un año, la misma fundación apoyó aplicaciones adicionales: asistentes de eficiencia conversacional, agentes de planificación de capacidad, recomendaciones de oportunidades personalizadas, flujos de trabajo de investigación guiados, y validación impulsada por IA. Cada nueva característica requiere poca o ninguna integración de datos nuevos, ya que pueden simplemente componer herramientas existentes con nuevas capacidades..

Efectos

Los resultados del Programa de Eficiencia de Capacidad son notables: Hemos recuperado cientos de megavatios de electricidad.. Los sistemas de IA para ataque y defensa ayudan a respaldar estos esfuerzos.

Pero el cambio más profundo está en cómo la ofensiva y la defensa se refuerzan mutuamente.: Los ingenieros que dedicaron la mañana a la clasificación defensiva ahora están revisando los análisis generados por IA en minutos. Los ingenieros que utilizan nuestras herramientas de eficiencia ahora pueden obtener código impulsado por IA en lugar de empezar desde cero.. La pregunta desalentadora: “¿Por dónde empiezo??” ha sido reemplazado por la revisión e implementación de correcciones de alto impacto.