Vad är Support Vector Machine (SVM)?
Inom området artificiell intelligens och maskininlärning är Support Vector Machine (SVM) en populär algoritm för klassificeringsuppgifter. När du använder SVM för klassificering är ett av nyckelstegen att hitta det hyperplan som bäst separerar datapunkterna i olika klasser. Efter att hyperplanet har hittats inbegriper klassificeringen av en ny datapunkt att bestämma vektorprojektionen av den nya punkten på vektorn vinkelrätt mot hyperplanet. Det är dock viktigt att notera att detta uttalande kräver ytterligare bearbetning och förtydligande.
För att förstå detta koncept, låt oss först diskutera grunderna i SVM. SVM är en binär klassificeringsalgoritm som syftar till att hitta det bästa hyperplanet i ett högdimensionellt funktionsutrymme som separerar datapunkterna för olika klasser med maximal marginal. Hyperplanet är en beslutsgräns som separerar datapunkterna i två klasser. Målet är att hitta hyperplanet som maximerar marginalen, vilket är avståndet mellan hyperplanet och de närmaste datapunkterna i varje klass.
I SVM representeras hyperplanet av en vektor som är vinkelrät mot den, kallad normalvektor eller viktvektor. Denna vektor bestäms under träningsfasen för SVM-algoritmen. Träningsprocessen går ut på att hitta de optimala vikterna som definierar hyperplanet genom att lösa ett optimeringsproblem. När hyperplanet har hittats kan det användas för att klassificera nya datapunkter.
När en ny datapunkt klassificeras med SVM, beräknar algoritmen punktprodukten mellan viktvektorn och egenskapsvektorn för den nya datapunkten. Funktionsvektorn representerar datapunktens attribut eller egenskaper. Punktprodukten mäter i huvudsak likheten eller projektionen av den nya datapunkten på viktvektorn.
Om punktprodukten är positiv betyder det att den nya datapunkten är på samma sida av hyperplanet som den positiva klassen. Omvänt, om punktprodukten är negativ betyder det att den nya datapunkten är på samma sida av hyperplanet som den negativa klassen. Storleken på prickprodukten indikerar också datapunktens närhet till hyperplanet.
Efter att hyperplanet hittats i SVM, innebär klassificeringen av en ny datapunkt att man beräknar punktprodukten mellan viktvektorn (vinkelrät mot hyperplanet) och egenskapsvektorn för den nya datapunkten. Tecknet och storleken på denna punktprodukt bestämmer klassetiketten och den nya datapunktens närhet till hyperplanet.
Låt oss illustrera detta koncept med ett enkelt exempel. Anta att vi har ett binärt klassificeringsproblem där vi vill klassificera frukter som antingen äpplen eller apelsiner baserat på deras vikt och sötma. Vi tränar en SVM-modell och hittar ett hyperplan som skiljer de två klasserna åt. Hyperplanets viktvektor är [0.5, -0.3], vilket indikerar att vikten är positivt korrelerad med äpplen och negativt korrelerad med apelsiner, medan sötma har en negativ korrelation med äpplen och en positiv korrelation med apelsiner.
Låt oss nu säga att vi har en ny frukt med vikt 0.4 kg och sötma 0.6. För att klassificera denna nya frukt, beräknar vi prickprodukten mellan viktvektorn [0.5, -0.3] och egenskapsvektorn [0.4, 0.6]. Punktprodukten är 0.5 * 0.4 + (-0.3) * 0.6 = 0.14. Eftersom prickprodukten är positiv kan vi klassa den nya frukten som ett äpple.
Man skulle kunna säga att SVM-klassificering för en ny datapunkt efter att hyperplanet hittats handlar om att bestämma vektorprojektionen av den nya punkten till vektorn vinkelrätt mot hyperplanet. Punktprodukten mellan viktvektorn (vinkelrät mot hyperplanet) och egenskapsvektorn för den nya datapunkten används för att bestämma klassetiketten och den nya datapunktens närhet till hyperplanet.
Andra senaste frågor och svar ang EITC/AI/MLP maskininlärning med Python:
- Varför ska man använda en KNN istället för en SVM-algoritm och vice versa?
- Vad är Quandl och hur installerar man det för närvarande och använder det för att demonstrera regression?
- Hur beräknas b-parametern i linjär regression (y-avsnittet för den bäst anpassade linjen)?
- Vilken roll spelar stödvektorer för att definiera beslutsgränsen för ett SVM, och hur identifieras de under utbildningsprocessen?
- I samband med SVM-optimering, vad är betydelsen av viktvektorn "w" och bias "b", och hur bestäms de?
- Vad är syftet med `visualisera`-metoden i en SVM-implementering, och hur hjälper den till att förstå modellens prestanda?
- Hur bestämmer `predict`-metoden i en SVM-implementering klassificeringen av en ny datapunkt?
- Vad är det primära målet för en Support Vector Machine (SVM) i samband med maskininlärning?
- Hur kan bibliotek som scikit-learn användas för att implementera SVM-klassificering i Python, och vilka är nyckelfunktionerna involverade?
- Förklara betydelsen av begränsningen (y_i (mathbf{x}_i cdot mathbf{w} + b) geq 1) i SVM-optimering.
Se fler frågor och svar i EITC/AI/MLP Machine Learning med Python