Vertiv Holdings Co. (NYSE: VRT), que se define como líder mundial en infraestructura digital crítica, y Deloitte Center for Integrated Research han presentado hoy una colaboración destinada a ayudar a las empresas a afrontar un desafío fundamental al pasar de la experimentación con inteligencia artificial a la producción: determinar dónde deben ejecutarse las cargas de trabajo de IA y si la infraestructura física disponible puede darles soporte.
La nueva Guía de Vertiv para el diseño de infraestructura para la IA empresarial, desarrollada por Vertiv y STL Partners, empresa de investigación especializada en infraestructura digital, ofrece a responsables de negocio, TI e instalaciones un marco basado en las cargas de trabajo para tomar estas decisiones antes de comprometerse con un plan de infraestructura. A partir del resultado empresarial previsto y de la carga de trabajo de IA, las organizaciones pueden evaluar la ubicación de implementación, los requisitos de infraestructura y la preparación de las instalaciones. Después, pueden asignar cada carga de trabajo a un modelo de infraestructura física y un diseño de referencia adecuados para su posterior planificación y validación técnica.
La investigación en la que se basa la guía destaca una consideración fundamental para las empresas que trasladan cargas de trabajo de IA a entornos de producción continuada: según sus conclusiones, la preparación de la infraestructura puede determinar dónde pueden implementarse las cargas de trabajo y con qué rapidez pueden pasar a producción. La disponibilidad de energía, refrigeración, conectividad y capacidad operativa puede determinar si una instalación existente puede dar soporte a una carga de trabajo o si se necesita otro modelo de implementación.
La guía convierte estas consideraciones en un proceso de cuatro pasos: (1) definir el resultado empresarial previsto y la carga de trabajo de IA; (2) evaluar la escala, el funcionamiento y los requisitos operativos de la carga de trabajo; (3) determinar la ubicación de implementación más adecuada; y (4) asociar la carga de trabajo y la ubicación con un modelo de infraestructura física y un diseño de referencia.
"La siguiente fase de la IA empresarial estará determinada no solo por los modelos y la computación, sino también por la capacidad de las organizaciones para proporcionar la energía, la refrigeración, la conectividad y el entorno operativo que requiere cada carga de trabajo", afirmó Giordano Albertazzi, CEO de Vertiv. "Al partir de la carga de trabajo, las empresas pueden tomar decisiones sobre infraestructura con mayor antelación, identificar antes las limitaciones y establecer una vía más sólida para pasar de las aspiraciones en materia de IA a la producción".
"Los aspectos económicos y los requisitos operativos de la IA cambian a medida que las cargas de trabajo pasan a producción", afirmó Nicholas Merizzi, director y responsable de Silicon2Service en EE. UU. de Deloitte Consulting LLP. "Las organizaciones deben tener en cuenta conjuntamente el valor empresarial, la gobernanza, la responsabilidad operativa y la infraestructura. Incorporar estas cuestiones antes al proceso de planificación proporciona a los responsables una base más sólida para decidir dónde deben ejecutarse las cargas de trabajo de IA y cómo deben recibir soporte a lo largo del tiempo".
El proceso parte de que la IA empresarial comprende un porfolio de cargas de trabajo, en lugar de una única decisión sobre infraestructura. Las cargas de trabajo exploratorias pueden permanecer en la nube, mientras que las continuadas o críticas para el negocio pueden favorecer una infraestructura híbrida o capacidad gestionada por la propia empresa. Las cargas de trabajo que requieren tiempos de respuesta más rápidos, mayor control, proximidad a los datos o un funcionamiento específico de los modelos pueden necesitar ejecutarse en el extremo de la red o en otro entorno controlado.
Este enfoque adaptado a cada carga de trabajo permite que la nube pública, los centros de colocation, la capacidad propiedad de la empresa, los entornos híbridos y la infraestructura en el extremo de la red desempeñen cada uno su función. En lugar de defender de forma generalizada el uso de la nube o posicionarse en su contra, la guía ofrece un método coherente para determinar el entorno operativo adecuado para cada carga de trabajo de IA.
La investigación clasifica las cargas de trabajo de IA empresarial en seis arquetipos que abarcan el desarrollo de modelos, su reentrenamiento y cuatro categorías de uso en producción. Según la guía, estos arquetipos ayudan a las organizaciones a identificar cargas de trabajo con requisitos similares de funcionamiento, operación e infraestructura, y proporcionan una base más coherente para la planificación. Cada carga de trabajo puede asociarse después con uno de los cuatro modelos de infraestructura física: clúster de IA en el extremo de la red, clúster de IA pequeño, clúster de IA grande y clúster de IA de alta densidad.
Según la guía, los cuatro modelos ofrecen un punto de partida para tomar decisiones relacionadas con la energía, la refrigeración, los sistemas de control, la conectividad, la resiliencia, el soporte operativo y el crecimiento futuro. Los diseños de referencia correspondientes pueden adaptarse posteriormente a partir de la evaluación de las instalaciones, los requisitos de las cargas de trabajo y la ingeniería detallada.
La guía considera fundamental la preparación de las instalaciones en los cuatro modelos. Ayuda a las empresas a evaluar si una ubicación propuesta dispone de suficiente energía, refrigeración, conectividad y capacidad operativa, además de espacio para crecer. Según la guía, realizar esta evaluación en una fase temprana puede ayudar a identificar limitaciones de la infraestructura antes de que se conviertan en obstáculos para la implementación.
La guía completa, Designing Infrastructure for Enterprise AI (Diseño de infraestructura para la IA empresarial), detalla los seis arquetipos de cargas de trabajo, los cuatro modelos de infraestructura física y una hoja de ruta de cuatro fases para planificar, implementar y evolucionar la infraestructura de IA empresarial. Está disponible en Vertiv.com.