En este documento del framework de arquitectura: perspectiva de IA y AA, se proporciona una descripción general de los principios y las recomendaciones para optimizar el costo de tus sistemas de IA a lo largo del ciclo de vida del AA. Si adoptas un enfoque proactivo y fundamentado de administración de costos, tu organización puede aprovechar todo el potencial de los sistemas de IA y AA, y también mantener la disciplina financiera. Las recomendaciones de este documento se alinean con el pilar de optimización de costos del framework de arquitectura.
Los sistemas de IA y AA pueden ayudarte a obtener estadísticas valiosas y capacidades predictivas a partir de los datos. Por ejemplo, puedes reducir los inconvenientes en los procesos internos, mejorar las experiencias de los usuarios y obtener estadísticas de los clientes más detalladas. La nube ofrece grandes cantidades de recursos y un tiempo de obtención de valor rápido sin grandes inversiones iniciales para las cargas de trabajo de IA y AA. Para maximizar el valor comercial y alinear la inversión con tus objetivos comerciales, debes comprender los impulsores de costos, optimizarlos de forma proactiva, configurar controles de inversión y adoptar prácticas de FinOps.
Define y mide los costos y las devoluciones
Para administrar de manera eficaz los costos de IA y AA en Google Cloud, debes definir y medir los gastos de los recursos de la nube y el valor comercial de tus iniciativas de IA y AA. Google Cloud ofrece herramientas integrales para la facturación y la administración de costos que te ayudarán a hacer un seguimiento de los gastos de forma detallada. Las métricas de valor de la empresa que puedes medir incluyen la satisfacción del cliente, los ingresos y los costos operativos. Si estableces métricas concretas para los costos y el valor de la empresa, puedes tomar decisiones fundamentadas sobre la asignación y optimización de recursos.
Ten en cuenta las siguientes recomendaciones:
- Establece objetivos comerciales claros y indicadores clave de rendimiento (KPI) para tus proyectos de IA y AA.
- Usa la información de facturación que proporciona Google Cloud para implementar procesos de informes y supervisión de costos que pueden ayudarte a atribuir costos a actividades específicas de IA y AA.
- Establece paneles, sistemas de alertas y de informes para hacer un seguimiento de los costos y las ganancias en función de los KPI.
Optimiza la asignación de recursos
Para lograr la eficiencia de costos de tus cargas de trabajo de IA y AA en Google Cloud, debes optimizar la asignación de recursos. Si alineas cuidadosamente la asignación de recursos con las necesidades de tus cargas de trabajo, puedes evitar gastos innecesarios y asegurarte de que tus sistemas de IA y AA tengan los recursos que necesitan para funcionar de manera óptima.
Ten en cuenta las siguientes recomendaciones:
- Usa el ajuste de escala automático para ajustar los recursos de forma dinámica para el entrenamiento y la inferencia.
- Comienza con modelos y datos pequeños. Ahorra costos probando hipótesis a una escala más pequeña cuando sea posible.
- Descubre tus necesidades de procesamiento mediante la experimentación. Ajusta el tamaño de los recursos que se usan para el entrenamiento y la publicación según tus requisitos de ML.
- Adopta prácticas de operaciones de AA para reducir la duplicación, los procesos manuales y la asignación de recursos ineficiente.
Aplica prácticas de administración y gobernanza de datos
Las prácticas eficaces de administración y gobernanza de datos desempeñan un papel fundamental en la optimización de costos. Los datos bien organizados ayudan a tu organización a evitar duplicaciones innecesarias, reducen el esfuerzo necesario para obtener datos de alta calidad y animan a los equipos a reutilizar los conjuntos de datos. Si administras los datos de forma proactiva, puedes reducir los costos de almacenamiento, mejorar la calidad de los datos y asegurarte de que tus modelos de AA se entrenen y operen con los datos más relevantes y valiosos.
Ten en cuenta las siguientes recomendaciones:
- Establece y adopta un marco de trabajo de administración de datos bien definido.
- Aplica etiquetas y metadatos relevantes a los conjuntos de datos en el momento de la transferencia de datos.
- Asegúrate de que los conjuntos de datos sean detectables y accesibles en toda la organización.
- Haz que tus conjuntos de datos y funciones sean reutilizables durante el ciclo de vida del AA siempre que sea posible.
Automatiza y optimiza con MLOps
Un beneficio principal de adoptar prácticas de MLOps es la reducción de costos, tanto desde una perspectiva tecnológica como en términos de actividades del personal. La automatización te ayuda a evitar la duplicación de actividades de AA y mejorar la productividad de los científicos de datos y los ingenieros de AA.
Ten en cuenta las siguientes recomendaciones:
- Aumenta el nivel de automatización y estandarización en tus tecnologías de recopilación y procesamiento de datos para reducir el esfuerzo y el tiempo de desarrollo.
- Desarrollar canalizaciones de entrenamiento automatizadas para reducir la necesidad de intervenciones manuales y aumentar la productividad de los ingenieros Implementa mecanismos para que las canalizaciones reutilicen recursos existentes, como conjuntos de datos preparados y modelos entrenados.
- Usa los servicios de evaluación y ajuste de modelos en Google Cloud para aumentar el rendimiento del modelo con menos iteraciones. Esto permite que tus equipos de IA y ML alcancen más objetivos en menos tiempo.
Usa servicios administrados y modelos existentes o previamente entrenados
Existen muchos enfoques para alcanzar los objetivos comerciales mediante el uso de la IA y el AA. Adopta un enfoque incremental para la selección y el desarrollo de modelos. Esto te ayuda a evitar los costos excesivos asociados con comenzar de cero cada vez. Para controlar los costos, comienza con un enfoque simple: usa frameworks de AA, servicios administrados y modelos previamente entrenados.
Ten en cuenta las siguientes recomendaciones:
- Habilita experimentos de AA exploratorios y rápidos con entornos de notebooks.
- Usa modelos existentes y previamente entrenados como punto de partida para acelerar tu proceso de selección y desarrollo de modelos.
- Usa servicios administrados para entrenar o entregar tus modelos. Tanto AutoML como los servicios de entrenamiento de modelos personalizados administrados pueden ayudar a reducir el costo del entrenamiento de modelos. Los servicios administrados también pueden ayudar a reducir el costo de tu infraestructura de entrega de modelos.
Fomenta una cultura de conciencia sobre los costos y optimización continua
Cultiva un entorno colaborativo que fomente la comunicación y las revisiones regulares. Este enfoque ayuda a los equipos a identificar e implementar oportunidades de ahorro de costos durante el ciclo de vida del procesamiento de datos.
Ten en cuenta las siguientes recomendaciones:
- Adopta los principios de FinOps en todo el ciclo de vida del AA.
- Asegúrate de que todos los costos y beneficios comerciales de los proyectos de IA y de AA tengan propietarios asignados con una responsabilidad clara.
Colaboradores
Autores:
- Isaac Lo | Gerente de Desarrollo Empresarial de IA
- Filipe Gracio, PhD | Ingeniero de Atención al cliente
Otros colaboradores:
- Autor: Kumar Dhanagopal | Desarrollador de soluciones entre productos
- Marwan Al Shawi | Ingeniero de Atención al Cliente para Socios
- Nicolas Pintaux | Ingeniero de Atención al cliente, especialista en modernización de aplicaciones