SVM je veľmi jednoduchý, ale výkonný algoritmus strojového učenia pod dohľadom, ktorý možno použiť na klasifikáciu aj regresiu, hoci sa na klasifikáciu bežne používa. Fungujú skutočne dobre v malých až stredne veľkých súboroch údajov a dajú sa veľmi ľahko vyladiť.
V tomto blogovom príspevku vybudujeme našu intuíciu podporných vektorových strojov a uvidíme za tým nejakú matematiku. Najprv pochopíme, čo sú klasifikátory veľkých marží a pochopíme stratovú funkciu a nákladovú funkciu tohto algoritmu. Potom uvidíme, ako funguje regularizácia pre SVM a čím sa riadi výmena zaujatosti a odchýlky. Nakoniec sa dozvieme o najúžasnejšej funkcii SVM, ktorou je trik s jadrom.
Musíte mať určité nevyhnutné znalosti o tom, ako funguje lineárna regresia a logistická regresia, aby ste ľahko pochopili koncepty. Odporúčam vám, aby ste si pri čítaní robili poznámky, aby ste z tohto článku vyťažili maximum, bude to dlhá a zaujímavá cesta. Poďme sa teda bez ďalších okolkov ponoriť.
Aby sme našli hranicu rozhodnutia, musíme:
- definovať našu hypotézu
- definovať stratovú funkciu
- pomocou stratovej funkcie vypočítajte nákladovú funkciu pre všetky tréningové body
- použite optimalizačný algoritmus, ako je zostup gradientu alebo sekvenčná minimálna optimalizácia, aby ste minimalizovali náklady a dosiahli naše ideálne parametre
Hypotéza pre SVM je pomerne priamočiara pre váhy v
Obrázok 3
Tu je kľúčovým bodom, ktorý musíte pochopiť, že táto hypotéza nie je nič iné ako vzdialenosť medzi dátovým bodom a hranicou rozhodnutia, takže kedykoľvek poviem slovo hypotéza, myslite na to len ako na túto vzdialenosť.
Predtým, ako uvidíme, čo presne je funkcia straty pre SVM, pozrime sa na náklady na jeden príklad školenia
Obrázok 4
Prvý člen je strata, keď y = 1 a druhý člen je strata, keď y = 0 a y nie je nič iné ako naša hypotéza definovaná na obrázku 3. Viem, že som dal veľa rovníc don|_+_ |s začnú dávať zmysel z nich.
kde kúpiť steem coin
medium.com
Dekódovacie podporné vektorové stroje
Intuitívne pochopte, ako fungujú Support Vector Machines. Týmto môžeme uzavrieť našu diskusiu o podporných vektorových strojoch>