La nueva guía de implementación, basada en investigaciones de Vertiv y STL Partners, ayuda a las organizaciones a determinar sus arquetipos de IA y dónde debe ubicarse la infraestructura de soporte. Un enfoque basado en las cargas de trabajo conecta los requisitos empresariales con modelos de infraestructura dimensionados adecuadamente y diseños de referencia para reducir los riesgos de implementación
Vertiv Holdings Co. (NYSE: VRT), líder mundial en infraestructura digital crítica, y Deloitte Center for Integrated Research han presentado hoy una colaboración destinada a ayudar a las empresas a abordar un desafío fundamental a la hora de pasar de la experimentación con inteligencia artificial a la producción: determinar dónde deben ejecutarse las cargas de trabajo de IA y si la infraestructura física disponible puede darles soporte.
La nueva Guía de Vertiv para el diseño de infraestructura para la IA empresarial, desarrollada por Vertiv y STL Partners, una empresa de investigación especializada en infraestructura digital, proporciona a los responsables de negocio, TI e instalaciones un marco basado en las cargas de trabajo para tomar estas decisiones antes de comprometerse con un plan de infraestructura. A partir del resultado empresarial previsto y de la carga de trabajo de IA, las organizaciones pueden evaluar la ubicación de la implementación, los requisitos de infraestructura y la preparación de las instalaciones y, a continuación, asignar cada carga de trabajo a un modelo de infraestructura física y un diseño de referencia adecuados para su posterior planificación y validación técnica.
La investigación en la que se basa la guía destaca una consideración fundamental a medida que las empresas trasladan las cargas de trabajo de IA a entornos de producción continuada: la preparación de la infraestructura puede determinar dónde pueden implementarse las cargas de trabajo y con qué rapidez pueden pasar a producción. La disponibilidad de energía, refrigeración, conectividad y capacidad operativa puede determinar si una instalación existente puede dar soporte a una carga de trabajo o si se necesita un modelo de implementación diferente.
La guía traduce estas consideraciones en un proceso de cuatro pasos: (1) definir el resultado empresarial previsto y la carga de trabajo de IA, (2) evaluar la escala, el funcionamiento y los requisitos operativos de la carga de trabajo, (3) determinar la ubicación de implementación más adecuada y (4) asociar la carga de trabajo y la ubicación con un modelo de infraestructura física y un diseño de referencia.
“La siguiente fase de la IA empresarial estará determinada no solo por los modelos y la computación, sino también por la capacidad de las organizaciones para proporcionar la energía, la refrigeración, la conectividad y el entorno operativo que requiere cada carga de trabajo”, afirmó Giordano Albertazzi, CEO de Vertiv. “Al partir de la carga de trabajo, las empresas pueden tomar decisiones sobre infraestructura con mayor antelación, identificar antes las limitaciones y establecer una vía más sólida para pasar de las aspiraciones en materia de IA a la producción”.
“Los aspectos económicos y los requisitos operativos de la IA cambian a medida que las cargas de trabajo pasan a producción”, afirmó Nicholas Merizzi, director y responsable de Silicon2Service en EE. UU. de Deloitte Consulting LLP. “Las organizaciones deben tener en cuenta conjuntamente el valor empresarial, la gobernanza, la responsabilidad operativa y la infraestructura. Incorporar estas cuestiones antes al proceso de planificación proporciona a los responsables una base más sólida para decidir dónde deben ejecutarse las cargas de trabajo de IA y cómo deben recibir soporte a lo largo del tiempo”.
El proceso reconoce que la IA empresarial consiste en un porfolio de cargas de trabajo, en lugar de una única decisión sobre infraestructura. Las cargas de trabajo exploratorias pueden permanecer en la nube, mientras que las cargas de trabajo continuadas o críticas para el negocio pueden favorecer una infraestructura híbrida o una capacidad gestionada por la propia empresa. Las cargas de trabajo que requieren tiempos de respuesta más rápidos, mayor control, proximidad a los datos o un funcionamiento específico de los modelos pueden necesitar ejecutarse en el extremo de la red o en otro entorno controlado.
Este enfoque específico para cada carga de trabajo permite que la nube pública, los centros de colocation, la capacidad propiedad de la empresa, los entornos híbridos y la infraestructura en el extremo de la red desempeñen cada uno su función. En lugar de defender de forma generalizada el uso de la nube o posicionarse en su contra, la guía proporciona un método coherente para determinar el entorno operativo adecuado para cada carga de trabajo de IA.
La investigación clasifica las cargas de trabajo de IA empresarial en seis arquetipos que abarcan el desarrollo de modelos, su reentrenamiento y cuatro categorías de uso en producción. Estos arquetipos ayudan a las organizaciones a identificar cargas de trabajo con requisitos similares de funcionamiento, operación e infraestructura, creando una base más coherente para la planificación. A continuación, cada carga de trabajo puede asociarse con uno de los cuatro modelos de infraestructura física: clúster de IA en el extremo de la red, clúster de IA pequeño, clúster de IA grande y clúster de IA de alta densidad.
Los cuatro modelos proporcionan un punto de partida para tomar decisiones relacionadas con la energía, la refrigeración, los sistemas de control, la conectividad, la resiliencia, el soporte operativo y el crecimiento futuro. A continuación, los diseños de referencia correspondientes pueden adaptarse en función de la evaluación de las instalaciones, los requisitos de las cargas de trabajo y la ingeniería detallada.
La preparación de las instalaciones es fundamental en los cuatro modelos. La guía ayuda a las empresas a evaluar si una ubicación propuesta dispone de suficiente energía, refrigeración, conectividad y capacidad operativa, así como de espacio para crecer. Realizar esta evaluación en una fase temprana puede ayudar a identificar las limitaciones de la infraestructura antes de que se conviertan en obstáculos para la implementación.
La guía completa, Designing Infrastructure for Enterprise AI (Diseño de infraestructura para la IA empresarial), detalla los seis arquetipos de cargas de trabajo, los cuatro modelos de infraestructura física y una hoja de ruta de cuatro fases para planificar, implementar y evolucionar la infraestructura de IA empresarial. Está disponible en Vertiv.com.
