Lasso teostab kokkutõmbumist nii, et piirangus on "nurgad", mis kahes mõõtmes vastab rombile. Kui ruutude summa "tabab" ühte neist nurkadest, siis kahaneb teljele vastav koefitsient nullini. … Seega teostab lasso kokkutõmbumist ja (tõhus alt) alamhulkade valikut.
Miks lasso annab nullkoefitsiente?
Lasso teostab kokkutõmbumist nii, et piirangus on "nurgad", mis kahes mõõtmes vastab rombile. Kui ruutude summa "tabab" ühte neist nurkadest, siis kahaneb teljele vastav koefitsient nulliks.
Miks lasso kahaneb nullini, aga Ridge mitte?
Öeldakse, et kuna LASSO piirangu kuju on teemant, võib saadud vähimruutude lahendus puudutada teemandi nurka nii, et see viib mõne muutuja kokkutõmbumiseni. Kuid harja regressiooni korral, kuna see on ring, ei puuduta see sageli telge
Miks harja regressioon kahandab koefitsiente?
Ridge regressioon kahandab kõiki regressioonikordajaid nulli suunas; lasso kipub andma nulli regressioonikoefitsiente ja viib hõreda lahenduseni. Pange tähele, et nii harja regressiooni kui ka lasso puhul võivad regressioonikoefitsiendid liikuda positiivsetelt väärtustelt negatiivsetele väärtustele, kui neid kahaneb nulli suunas.
Kas lasso koefitsiendid on kallutatud?
…lasso kokkutõmbumine põhjustab mitte-nullkoefitsientide hinnangute kaldumise nulli suunas ja üldiselt ei ole need järjepidevad [Lisatud märkus: see tähendab, et kuna valimi suurus kasvab, koefitsientide hinnangud ei ühti].
