La búsqueda de modelos de Google optimiza e identifica automáticamente los modelos de IA

Google hoy Anunciado el lanzamiento de Búsqueda de modelos, una plataforma de código abierto diseñada para ayudar a los investigadores a desarrollar modelos de aprendizaje automático de manera eficiente y automática. En lugar de centrarse en un dominio específico, Google dice que la búsqueda de modelos es independiente del dominio, lo que la hace capaz de encontrar una arquitectura de modelo que se ajuste a un conjunto de datos y a un problema mientras minimiza el tiempo de codificación y los recursos informáticos.

El éxito de un AI El modelo a menudo depende de qué tan bien puede funcionar en varias cargas de trabajo. Pero diseñar un modelo que pueda generalizar bien puede ser un gran desafío. En años recientes, Algoritmos de AutoML han surgido para ayudar a los investigadores a encontrar el modelo adecuado sin necesidad de experimentación manual. Sin embargo, la mayoría de las veces, estos algoritmos son de alta computación y necesitan miles de modelos para entrenar.

Búsqueda de modelos, que se basa en Google Marco de aprendizaje automático de TensorFlow y puede ejecutarse en una sola máquina o en varias: consta de varios entrenadores, un algoritmo de búsqueda, un algoritmo de aprendizaje por transferencia y una base de datos para almacenar modelos evaluados. Model Search ejecuta experimentos de capacitación y evaluación para modelos de IA de forma adaptativa y asincrónica, de modo que todos los capacitadores comparten el conocimiento obtenido de sus experimentos mientras realizan cada experimento de forma independiente. Al comienzo de cada ciclo, el algoritmo de búsqueda busca todas las pruebas completadas y decide qué probar a continuación, después de lo cual “muta” sobre una de las mejores arquitecturas encontradas hasta ese momento y asigna el modelo resultante a un entrenador.

Para mejorar aún más la eficiencia y la precisión, Model Search emplea el aprendizaje por transferencia durante los experimentos. Por ejemplo, utiliza la destilación de conocimientos y el intercambio de peso, que arranca algunas de las variables en modelos de modelos previamente entrenados. Esto permite una capacitación más rápida y, por extensión, oportunidades para descubrir más y aparentemente mejores arquitecturas.

Después de ejecutar una búsqueda de modelos, los usuarios pueden comparar los muchos modelos encontrados durante la búsqueda. Además, pueden crear su propio espacio de búsqueda para personalizar los elementos arquitectónicos en sus modelos.

Arriba: un ejemplo de la evolución de un modelo a lo largo de muchos experimentos. Cada color representa un tipo diferente de componente de arquitectura.

Crédito de imagen: Google

Google dice que en un experimento interno, Model Search mejoró los modelos de producción con iteraciones mínimas, particularmente en las áreas de detección de palabras clave e identificación de idiomas. También logró encontrar una arquitectura adecuada para la clasificación de imágenes en los CIFAR-10 conjunto de datos de imágenes de código abierto.

“Esperamos que el código de búsqueda de modelos proporcione a los investigadores un marco flexible e independiente del dominio para el descubrimiento de modelos de aprendizaje automático”, escribieron la ingeniera de investigación de Google Hanna Mazzawi y el científico investigador Xavi Gonzalvo en una publicación de blog. “Al basarnos en conocimientos previos para un dominio determinado, creemos que este marco es lo suficientemente poderoso como para construir modelos con el rendimiento más avanzado en problemas bien estudiados cuando se le proporciona un espacio de búsqueda compuesto por bloques de construcción estándar”.