model al neuronului [1]
Intrarea este un vector de impuls xn, compus din n caracteristici numerice. În interiorul neuronului, impulsurile sunt adăugate împreună cu unele greutăți wj. j = 1..n și dacă impulsul total S (x) = ^ n "/> depășește pragul de activare w0, atunci neuronul este excitat și dă o valoare a (x) = S (x) -w0.
Dacă adăugăm semnul impulsului manechinului x0 ≡ -1 și asociază greutatea w0 cu pragul de activare, atunci formula de ieșire Y (x) poate fi scrisă mai compact:
a (x) = (w, x). unde (w, x) este un produs scalar, w și x sunt vectori de greutăți și semne de impuls.
Instruirea ADALINE
Fie ca eșantionul de formare să fie dat: un set de valori de intrare X și un set de valori de ieșire Y. astfel încât la fiecare intrare xj să corespundă yj - ieșirea, j = 1..m. Este necesar să se bazeze pe aceste date ADALINE, care permite cel mai mic număr de erori pe acest eșantion de formare. Instruirea ADALINE este de a selecta valorile "cele mai bune" pentru vectorul de greutate w. Care este valoarea greutății determină mai bine pierderea funcțională. În ADALINE, funcția propusă de Widrow și Hoff este folosită, L (a, x) = (a - y) 2. Astfel, este necesar să minimizăm Q (w) funcțional.
Aplicăm metoda de coborâre a gradientului. atunci următoarea valoare va avea forma :, unde este rata de formare.
Schema de instruire ADALINE
- - formarea eșantionului de elemente m
- - rata de instruire
- - parametru de netezire
- Inițializați greutățile;
- Inițializați estimarea inițială a funcției:
- repet:
- Selectați un obiect de la (de exemplu, la întâmplare);
- Calculați eroarea :;
- Faceți un pas de coborâre a gradientului;
- Estimați valoarea funcțională :;
- În timp ce valoarea nu se stabilizează și / sau greutățile nu vor înceta să se schimbe.
Comunicarea învățării ADALINE cu gradientul stochastic
Schema de formare ADALINE corespunde schemei de învățare a clasificatorului liniar prin metoda gradientului stochastic cu funcția de activare liniară φ (z) = z și funcția de pierdere patratică L (a, x) = (a - y) 2.