Regularizatoarele vă permit să aplicați penalități asupra parametrilor stratului sau asupra activității stratului în timpul optimizării. Aceste penalități sunt însumate în funcția de pierdere pe care o optimizează rețeaua. Penalitățile de regularizare se aplică pe strat.
Ce este regulatorul de activitate?
Regularizarea activității funcționează ca o funcție a ieșirii rețelei și este folosit mai ales pentru a regulariza unitățile ascunse, în timp ce weight_regularizer, după cum spune și numele, funcționează pe ponderi (de exemplu, făcându-le să se degradeze).
Când ar trebui să folosesc regulatorul de activitate?
Dacă doriți ca funcția de ieșire să treacă prin (sau să aibă o interceptare mai aproape de) origine, puteți utiliza regulatorul de polarizare. Dacă doriți ca rezultatul să fie mai mic (sau mai aproape de 0), puteți utiliza regulatorul de activitate.
Cum folosesc Keras regularizer?
Pentru a adăuga un regulator la un strat, trebuie pur și simplu pentru a trece tehnica de regularizare preferată la argumentul cheie al stratului „kernel_regularizer”. Metodele de implementare a regularizării Keras pot furniza un parametru care reprezintă valoarea hiperparametrului de regularizare.
Ce este nucleul și părtinirea?
Clasa densă
Dense implementează operația: ieșire=activare(punct(intrare, nucleu) + bias) unde activarea este funcția de activare în funcție de elemente transmisă ca argument de activare, nucleul este o matrice de ponderi creată de stratul șibias este un vector de polarizare creat de strat (aplicabil numai dacă use_bias este adevărat).
