Läbipaistvus lahendab selle probleemi, kasutades lihts alt tõlgendatavaid mudeleid, millest mõnda käsitleme järgmises jaotises. Seletatavus lahendab selle probleemi, "pakkides lahti musta kasti" või püüdes saada ülevaadet masinõppemudelist, kasutades sageli statistilisi meetodeid.
Mis on mudeli seletatavus?
Mudeli seletatavus on lai kontseptsioon ML-mudelite tulemuste analüüsimiseks ja mõistmiseks. Kõige sagedamini kasutatakse seda "musta kasti" mudelite kontekstis, mille puhul on raske näidata, kuidas mudel konkreetse otsuseni jõudis.
Mis on seletatavus süvaõppes?
Seletatavus (mida nimetatakse ka "tõlgenduseks") on kontseptsioon, et masinõppe mudelit ja selle väljundit saab seletada viisil, mis on inimesele vastuvõetaval tasemel "mõistlik" … Teisi, nagu süvaõppesüsteemid, on küll tulemuslikumad, kuid neid on palju raskem seletada.
Mida tähendab seletatavus tehisintellektisüsteemi kontekstis?
Andrew Maturo, SPR andmeanalüütik. Lihts alt öeldes tähendab seletatav tehisintellekt AI, mis on oma tegevuses läbipaistev, nii et kasutajad saavad otsuseid mõista ja usaldada Organisatsioonid peavad esitama küsimuse – kas saate selgitada, kuidas teie tehisintellekt selle tekitas konkreetne arusaam või otsus?” –
Mis on seletatavuse probleem?
Inimestel on ilmselge vastumeelsus musta kasti otsuste vastu, mis mõjutavad neid rahaliselt, tervislikult ja kümnetel muul viisil, jättes samal ajal tähelepanuta teatud erinevad otsused. … Kui tehisintellekt need otsused teeb, on kuulda nõudlust seletatavuse järele.
