Búsqueda de arquitectura de red neuronal
Definir connotación
La búsqueda de arquitectura de redes neuronales es la tarea de encontrar automáticamente una o más arquitecturas para un conjunto de datos dado, lo que generará modelos con buenos resultados para el conjunto de datos dado , y su esencia es el problema de búsqueda de parámetros óptimos en un espacio de alta dimensión.
experiencia técnica
El uso de modelos de aprendizaje profundo se está volviendo cada vez más popular e indispensable en muchas industrias. Sin embargo, la implementación de redes neuronales eficientes
generalmente requiere el conocimiento de la arquitectura y mucho tiempo para usar el conocimiento para explorar soluciones razonables en un proceso iterativo
. La forma y la estructura de la red neuronal variarán según las necesidades específicas, por lo que es
necesario establecer estructuras específicas para diferentes tareas y requisitos. Pero diseñar estas redes por ensayo y error es una tarea tediosa y que requiere mucho tiempo y que requiere no solo
habilidades arquitectónicas sino también experiencia en el dominio. Por lo general, los expertos utilizan su experiencia pasada o sus conocimientos técnicos
para crear y diseñar redes neuronales.
En la mayoría de las industrias, se prestará atención a la eficiencia del modelo (la eficiencia aquí se refiere no solo a la eficiencia de ejecución, sino también a la eficiencia de desarrollo).
Para que una red neuronal se generalice sin sobreajustar el conjunto de datos de entrenamiento, es importante encontrar la estructura óptima. Pero en una era en la que la productividad es más importante que la calidad, algunas industrias descuidan la eficiencia de sus modelos y se conforman con el primer modelo
que logra sus objetivos (siempre que funcione) sin optimizar más el rendimiento y la eficiencia del modelo. Encontrar una arquitectura de red adecuada no solo requiere mucho tiempo y habilidades profesionales de diseño de arquitectura, sino que también cae fácilmente en una solución subóptima. Muchas industrias no tienen modelos "suficientes" para aprovechar al máximo el potencial de sus datos debido a la falta de tiempo o experiencia en arquitectura . Neural Architecture Search (Búsqueda de arquitectura neuronal, NAS) [19] es un algoritmo basado en optimización que tiene como objetivo encontrar la mejor estructura de una red neuronal para una tarea específica en un conjunto de datos específico y resolver el problema de la arquitectura predefinida imperfecta. NAS transforma el diseño de la arquitectura de red neuronal de un método manual complicado a un método automatizado.El efecto de NAS en tareas como la clasificación de imágenes, la detección de objetivos y la segmentación semántica puede alcanzar o incluso superar el de la arquitectura de red diseñada manualmente.
NAS implementa una estrategia de búsqueda específica en un espacio de búsqueda exponencial definido, buscando
arquitecturas de redes neuronales que logren un alto rendimiento predictivo en datos no vistos. Las estrategias de búsqueda para explorar el espacio de las estructuras de red incluyen búsqueda aleatoria, optimización bayesiana
, métodos evolutivos, aprendizaje de refuerzo y métodos de búsqueda basados en gradientes. 
NAS brinda más información sobre la selección de modelos para MLOps al automatizar la exploración de múltiples arquitecturas de red potenciales. Flexibilidad
y una solución más eficiente
La solución idea
NNI implementa los algoritmos de ENAS, DARTS y P-DARTS, y proporciona la interfaz del algoritmo de un solo disparo. Además, también
admite métodos de búsqueda clásicos como Network Morphism [20].
Los métodos NAS exploran muchas soluciones potenciales con complejidad variable y, por lo tanto, son computacionalmente costosos. Cuanto mayor sea su
espacio de búsqueda, más arquitecturas para probar, entrenar y evaluar. Estos métodos requieren muchos recursos y tiempo para encontrar
un modelo lo suficientemente bueno, por lo que al crear una tarea de búsqueda de arquitectura de red neuronal, SecXOps estará más inclinado a
asignar el Pod donde se encuentra el proyecto a un nodo Nodo con más recursos informáticos inactivos. Durante el proceso de entrenamiento, el programa generará los resultados del modelo en tiempo real. SecXOps también establece el mapeo de puertos para tales tareas, lo que
permite a los usuarios acceder y ver el progreso de finalización de su propia tarea, como se muestra en la figura a continuación. 
Al mismo tiempo, haga clic en la tarea correspondiente para permitir que los usuarios vean la arquitectura de red nerviosa buscada
Referencias
Documento técnico de la tecnología de análisis inteligente de seguridad NSFOCUS SecXOps
Enlaces
Regulaciones de informatización y seguridad de la red de la provincia de Hunan 2021