MI skaidrojamība
praksē
Kā organizācijas izmanto paskaidrojamo mākslīgo intelektu, lai saprastu modeļu lēmumus un uzlabotu uzticamību reālos procesos.
Kredītu novērtēšana
Finanšu iestāde izmantoja SHAP vērtības, lai izskaidrotu aizdevumu atteikumus klientiem. Katrs lēmums tika saistīts ar konkrētiem ienākumu un maksājumu vēstures rādītājiem.
Medicīniskā diagnostika
Slimnīcas radiologi saņēma vizuālus skaidrojumus par to, kuri attēla apgabali ietekmēja modeļa diagnozi. Tas palīdzēja ārstiem ātrāk pārbaudīt automātiskos ieteikumus un pieņemt galīgo lēmumu ar lielāku pārliecību.
Ražošanas defekti
Rūpnīca izmantoja LIME skaidrojumus, lai noskaidrotu, kuri sensoru dati visvairāk ietekmē defektu prognozēšanu. Tas ļāva tehniķiem pielāgot iekārtu kalibrēšanu pirms problēmu rašanās.
Pirmo reizi sapratu, kāpēc modelis pieņem konkrētus lēmumus. Tas mainīja to, kā mēs veidojam datu apstrādes procesus.
Indra Kalniņa Datu analītiķe, loģistikas uzņēmumsKā izskatās XAI ieviešana
Četri soļi, ko organizācijas parasti veic, pārejot no necaurredzama modeļa uz interpretējamu sistēmu.
Modeļa audits
Tiek noskaidrots, kuri mainīgie visvairāk ietekmē prognozi. Bieži atklājas nepatīkami pārsteigumi — modelis balstās uz datiem, kas nav saistīti ar patieso problēmu.
Metodes izvēle
SHAP der strukturētiem datiem, Grad-CAM — attēliem, LIME — gadījumu līmeņa skaidrojumiem. Izvēle atkarīga no modeļa tipa un tā, kam skaidrojums ir paredzēts.
Skaidrojumu integrācija
Skaidrojumi tiek iekļauti darbplūsmā — vai nu kā vizualizācijas analītiķiem, vai vienkāršoti teksti gala lietotājiem. Formāts ir tikpat svarīgs kā saturs.
Atkārtota pārbaude
Pēc korekcijām modelis tiek pārbaudīts atkārtoti. Skaidrošana nav vienreizējs solis — tā ir daļa no pastāvīgas modeļa uzraudzības.