ES AI akts un XAI: ko tas nozīmē jums

ES AI akts, kas stājas spēkā pakāpeniski līdz 2026. gadam, pieprasa, lai augsta riska sistēmas spētu sniegt saprotamus skaidrojumus par saviem lēmumiem.

Dokumenti, kas jāzina

Eiropas Komisijas Uzticama AI vadlīnijas ir sākumpunkts — 30 lappuses, kurās definēts, ko nozīmē pārredzamība regulatīvā kontekstā.

ENISA publicējis tehnisko ziņojumu par XAI metodēm — tas ir detalizētāks un paredzēts tiem, kas strādā ar sistēmu arhitektūru.

Kā eksperti to interpretē

Juridiskā analītiķe Lauma Vītiņa, kura konsultē tehnoloģiju uzņēmumus par atbilstību, norāda: regulācija prasa skaidrojumu, bet nenosaka metodi.

Jautājums: Vai SHAP pietiek atbilstībai?

Lauma: Atkarīgs no konteksta. Medicīnas vai tieslietu jomā nepietiek tikai ar funkciju svariem — nepieciešams arī auditējams lēmumu ceļš.

Praktiski resursi atbilstības pārbaudei

AI Now Institute publicē ikgadējus ziņojumus par MI atbildību — tie ir lasāmi bez tehniskas sagatavotības un sniedz politikas kontekstu.

Skaidrojamība regulācijā nozīmē, ka cilvēks var apstrīdēt lēmumu — ne tikai to saprast.Lauma Vītiņa