XAI resursi tiem, kam nav laika lasīt visu

Izskaidrojamais mākslīgais intelekts jeb XAI ir viena no retajām jomām, kur akadēmiskā literatūra, regulatīvie dokumenti un praktiskie rīki attīstās gandrīz vienlaicīgi.

Ko vērts lasīt vispirms

DARPA XAI programmas dokumentācija ir sākumpunkts, ja gribi saprast, kāpēc valdības sāka interesēties par modeļu caurspīdīgumu. Tā nav gara, bet ir precīza.

Christoph Molnar grāmata Interpretable Machine Learning ir brīvi pieejama tiešsaistē. Katrs nodaļas sākums ietver kopsavilkumu — var lasīt tikai tos.

Rīki, ko lieto praksē

SHAP un LIME ir divi visbiežāk pieminētie Python rīki modeļu skaidrojamībai. SHAP ir matemātiski stingrāks, LIME — ātrāk saprotams iesācējiem.

Google PAIR Guidebook piedāvā vizuālus piemērus, kā XAI ietekmē dizaina lēmumus — noderīgs tiem, kas nestrādā ar kodu.

Ekspertu intervijas, kas ietaupa laiku

Lex Fridman podkāstā Finale Doshi-Velez runā par to, kad skaidrojamība ir nepieciešama un kad tā ir tikai formāla prasība. Šī intervija maina veidu, kā domāt par XAI lietojumu.

Finale Doshi-Velez uzsver: skaidrojamība nav mērķis pati par sevi — tā ir instruments konkrētu lēmumu pārbaudei.