Optimisació de hiperparámetros

En l'aprenentage automàtic, la optimisació de hiperparámetros o sintonización és el problema d'elegir un conjunt d'hiperparámetros òptims per a un algoritme d'aprenentage. Un hiperparámetro és un paràmetro el valor del qual s'utilisa per a controlar el procés d'aprenentage. En canvi, els valors d'atres paràmetros (normalment els pesos dels nodos) es deprenen.

El mateix tipo de model d'aprenentage automàtic pot requerir diferents restriccions, pesos o ritmes d'aprenentage per a generalisar distints patrons de senyes. Estes mides es denominen hiperparámetros i deuen ajustar-se per a que el model puga resoldre de forma òptima el problema d'aprenentage automàtic. L'optimisació de hiperparámetros troba una tupla de hiperparámetros que produïx un model òptim que minimisa una funció de pèrdua predefinida en senyes independents daus. La funció objectiu pren una tupla de hiperparámetros i torna la pèrdua associada. La validació creuada s'utilisa a sovint per a estimar este rendiment de generalisació, i per lo tant elegir el conjunt de valors per als hiperparámetros que ho maximizar.

Enfoques

Busca en cuadrícula

Busca en cuadrícula a través de diferents valors de dos hiperparámetros. Per a cada hiperparámetro, es consideren 10 valors diferents, per lo que s'evaluen i comparen un total de 100 combinacions distintes. Els contorns blaus indiquen les regions en bons resultats, mentres que els rojos mostren les regions en mals resultats.

La forma tradicional de realisar l'optimisació de hiperparámetros ha segut la busca en cuadrícula, o agranada de paràmetros, que no és més que una busca exhaustiva a través d'un subconjunt especificat manualment de l'espai de hiperparámetros d'un algoritme d'aprenentage. Un algoritme de busca en cuadrícula deu guiar-se per alguna mètrica de rendiment, normalment medida per validació creuada en el conjunt d'entrenament o evaluació en un conjunt de validació d'espera.

Ya que l'espai de paràmetros d'un aprenent de màquina pot incloure espais de valors reals o no llimitats per a certs paràmetros, pot ser necessari establir manualment llímits i discretización abans d'aplicar la busca de cuadrícula.

Per eixemple, un classificador SVM de marge suau típic equipat en un núcleu RBF té a lo manco dos hiperparámetros que deuen ajustar-se per a obtindre un bon rendiment en senyes no vists: una constant de regularisació C i un hiperparámetro de núcleu γ. Abdós paràmetros són continus, per lo que per a realisar la busca en la cuadrícula, se selecciona un conjunt finito de valors "raonables" per a cada u, digam:

$C\in \{10,100,1000\}$

$\gamma \in \{0.1,0.2,0.5,1.0\}$

A continuació, la busca de cuadrícula entrena una SVM en cada parell (C, γ) en el producte cartesiano d'estos dos conjunts i evalua el seu rendiment en un conjunt de validació retingut (o per mig de validació creuada interna en el conjunt d'entrenament, en el cas del qual s'entrenen múltiples SVM per parell). Per últim, l'algoritme de busca en cuadrícula proporciona els ajusts que han obtingut la puntuació més alta en el procediment de validació.

La busca de cuadrícula sofrix la maldicció de la dimensionalidad, pero sol ser vergonzosamente paralela perque els ajusts de hiperparámetros que evalua solen ser independents entre sí.

Busca aleatòria

Busca aleatòria entre diferents combinacions de valors per a dos hiperparámetros. En este eixemple, s'evaluen 100 opcions aleatòries diferents. Les barres verdes mostren que es consideren més valors individuals per a cada hiperparámetro en comparació a una busca en cuadrícula.

La busca aleatòria substituïx l'enumeració exhaustiva de totes les combinacions per la seua selecció aleatòria. Pot aplicar-se de forma senzilla a l'entorn discret descrit anteriorment, pero també es generalisa a espais continus i mixts. Pot superar a la busca cuadriculada, especialment quan només un chicotet número de hiperparámetros afecta al rendiment final de l'algoritme d'aprenentage automàtic. En este cas, es diu que el problema d'optimisació té una dimensionalidad intrínseca baixa. La busca aleatòria també és embarazosamente paralela i, ademés, permet l'inclusió de coneiximent previ especificant la distribució de la que prendre mostres. A pesar de la seua simplicitat, la busca aleatòria seguix sent una de les llínees de base importants en les que comparar el rendiment dels nous métodos d'optimisació de hiperparámetros.

Optimisació bayesiana

Artícul principal: Optimisació bayesiana

Métodos com l'optimisació bayesiana exploren inteligentment l'espai d'opcions potencials de hiperparámetros decidint qué combinació explorar a continuació basant-se en observacions prèvies.

L'optimisació bayesiana és un método d'optimisació global per a funcions de caixa negra sorolloses. Aplicada a l'optimisació de hiperparámetros, l'optimisació bayesiana construïx un model provabilístic de la funció que relaciona els valors dels hiperparámetros en l'objectiu evaluat en un conjunt de validació. Per mig de l'evaluació iterativa d'una configuració de hiperparámetros prometedora basada en el model actual, i la seua posterior actualisació, l'optimisació bayesiana pretén recopilar observacions que revelen tanta informació com siga possible sobre esta funció i, en particular, sobre l'ubicació de l'òptim. Intenta equilibrar l'exploració (hiperparámetros para els que el resultat és més incert) i l'explotació (hiperparámetros esperats prop de l'òptim). En la pràctica, s'ha demostrat que l'optimisació bayesiana obté millors resultats en menys evaluacions que la busca cuadriculada i la busca aleatòria, per la capacitat de raonar sobre la calitat dels experiments abans d'eixecutar-los.

Optimisació basada en el gradient

Per a algoritmes d'aprenentage específics, és possible calcular el gradient sobre els hiperparámetros i, a continuació, optimisar els hiperparámetros per mig del descens de gradient. El primer us d'estes tècniques es va centrar en les rets neuronals. Des de llavors, estos métodos s'han estés a atres models com les màquines de vectores de soport o la regressió llogística.

Un enfocament diferent per a obtindre un gradient sobre els hiperparámetros consistix en diferenciar els passos d'un algoritme d'optimisació iterativo utilisant diferenciació automàtica. Un treball més recent en esta direcció utilisa el teorema de la funció implícita per a calcular hipergradientes i propon una aproximació estable del hessiano invers. El método és escalable a millons de hiperparámetros i requerix memòria constant.

En un enfocament diferent, s'entrena una hiperred per a aproximar la millor funció de resposta. Una de les ventages d'este método és que també pot manejar hiperparámetros discrets. Les rets autoajustables oferixen una versió eficient en memòria d'este enfocament per mig de l'elecció d'una representació compacta per a la hiperred. Més recentment, Δ-STN ha millorat encara més este método per mig d'una llaugera reparametrización de la hiperred que accelera l'entrenament. Δ-STN també produïx una millor aproximació del jacobiano de millor resposta al linealizar la ret en els pesos, eliminant aixina els efectes no llineals innecessaris dels grans canvis en els pesos.

Ademés dels enfocaments de hiperredes, els métodos basats en gradient es poden utilisar per a optimisar hiperparámetros discrets també adoptant una relaixació contínua dels paràmetros. Tals métodos s'han utilisat àmpliament per a l'optimisació de hiperparámetros d'arquitectura en la busca de arquitectura neuronals.

Optimisació evolutiva

Artícul principal: Algoritme evolutiu

L'optimisació evolutiva és una metodologia per a l'optimisació global de funcions caixa negra sorolloses. En l'optimisació de hiperparámetros, l'optimisació evolutiva utilisa algoritmes evolutius per a buscar l'espai de hiperparámetros d'un algoritme determinat. L'optimisació evolutiva de hiperparámetros seguix un procés inspirat en el concepte biològic d'evolució:

1. Crear una població inicial de solucions aleatòries (és dir, generar aleatoriamente tuplas de hiperparámetros, normalment més de 100).
2. Evaluar les tuplas de hiperparámetros i adquirir la seua funció d'aptitut (per eixemple, la precisió de validació creuada de 10 voltes de l'algoritme d'aprenentage automàtic en eixos hiperparámetros).
3. Classificar les tuplas de hiperparámetros per la seua aptitut relativa
4. Substituir les tuplas de hiperparámetros en pijor rendiment per noves tuplas de hiperparámetros generades per mig de creuament i mutació.
5. Repetixca els passos 2-4 fins que el rendiment de l'algoritme siga satisfactori o deixe de millorar.

L'optimisació evolutiva s'ha utilisat en l'optimisació de hiperparámetros per a algoritmes d'aprenentage automàtic estadístic, aprenentage automàtic, busca de arquitectura típiques de rets neuronals i rets neuronals profundes, aixina com en l'entrenament dels pesos en rets neuronals profundes.

Basat en la població

L'entrenament basat en la població (PBT) deprén tant els valors dels hiperparámetros com els pesos de la ret. Múltiples processos d'aprenentage operen de forma independent, utilisant diferents hiperparámetros. De la mateixa manera que ocorre en els métodos evolutius, els models de baix rendiment se substituïxen de forma iterativa per models que adopten valors de hiperparámetros i pesos modificats basats en els de millor rendiment. Esta arrancada en calenta del model de substitució és el principal diferenciador entre PBT i atres métodos evolutius. PBT permet que els hiperparámetros evolucionen i elimina la necessitat d'un ajust manual. El procés no fa suposicions sobre l'arquitectura del model, les funcions de pèrdua o els procediments d'entrenament.

PBT i les seues variants són métodos adaptatius: actualisen els hiperparámetros durant l'entrenament dels models. Pel contrari, els métodos no adaptatius tenen l'estratègia subóptima d'assignar un conjunt constant de hiperparámetros per a tot l'entrenament.

Parada anticipada

Una classe d'algoritmes d'optimisació de hiperparámetros basats en la parada anticipada està dissenyada per a grans espais de busca de hiperparámetros continus i discrets, especialment quan el cost computacional per a evaluar el rendiment d'un conjunt de hiperparámetros és alt. Irace implementa l'algoritme de carrera iterada, que centra la busca entorn a les configuracions més prometedores, utilisant proves estadístiques per a descartar les que rendixen mal. Un atre algoritme d'optimisació de hiperparámetros de parada primerenca és el de partició successiva per la mitat (SHA), que comença com una busca aleatòria pero periòdicament poda els models de baix rendiment, centrant aixina els recursos computacionals en els models més prometedors. Les divisions successives asíncronas (Asynchronous successive halving) (ASHA) milloren encara més el perfil d'utilisació de recursos de SHA en eliminar la necessitat d'evaluar i eliminar de forma sincrónica els models de baix rendiment. La hiperbanda és un algoritme d'alt nivell basat en la parada primerenca que invoca SHA o ASHA vàries voltes en distints nivells d'agressivitat de poda, per a ser més àmpliament aplicable i en menys entrades requerides.

Uns atres

També s'han desenrollat enfocaments de funció de base radial (RBF) i métodos espectrals.

Problemes en l'optimisació de hiperparámetros

Quan es realisa l'optimisació de hiperparámetros, el conjunt de hiperparámetros sol ajustar-se a un conjunt d'entrenament i seleccionar-se en funció del rendiment de generalisació, o puntuació, d'un conjunt de validació. No obstant, este procediment corre el risc de sobreajustar els hiperparámetros al conjunt de validació. Per lo tant, la puntuació del rendiment de generalisació del conjunt de validació (que poden ser varis conjunts en el cas d'un procediment de validació creuada) no pot utilisar-se per a estimar simultàneament el rendiment de generalisació del model final. Per a això, el rendiment de generalisació deu evaluar-se en un conjunt independent (que no tinga intersecció) del conjunt (o conjunts) utilisat per a l'optimisació dels hiperparámetros, de lo contrari el rendiment podria donar un valor massa optimiste (massa gran). Açò pot fer-se en un segon conjunt de proves, o per mig d'un procediment de validació creuada externa cridat validació creuada anidada, que permet una estimació insesgada del rendiment de generalisació del model, tenint en conte el biaix per l'optimisació dels hiperparámetros.

Vore també

• Aprenentage automàtic
• Busca d'arquitectura neuronal
• Metaoptimización
• Selecció de model
• Autoajuste
• XGBoost