2025.gada 2.februārī Eiropas Savienībā (ES), tajā skaitā Latvijā, stājas spēkā Mākslīgā intelekta (MI) akta prasības, kas aizliedz izmantot MI rīkus, kas apdraud cilvēktiesības, piemēram, ietekmē cilvēku uzvedību, atvasina emocijas, prognozē, vai persona varētu izdarīt noziedzīgu nodarījumu un citas.
Viedās administrācijas un reģionālās attīstības ministrija norāda, ka regulējuma mērķis ir aizsargāt Eiropas iedzīvotājus no MI sistēmām, kas var apdraudēt cilvēktiesības vai veicināt diskrimināciju. Saskaņā ar MI aktu (regula 2024/1689, kas nosaka saskaņotus noteikumus MI jomā) aizliegtas vairākas augsta riska MI lietošanas prakses, tostarp:
- aizliegtas MI sistēmas, kas izmanto metodes, lai maldinātu cilvēkus, un kuru mērķis ir būtiski iespaidot personas uzvedību, piemēram, tērzēšanas roboti, kas lietotājam iesaka izdarīt paškaitējumu vai radīt vardarbīgu saturu;
- aizliegtas biometriskās kategorizācijas sistēmas, kas atvasina emocijas, rasi vai citas sensitīvas īpašības;
- aizliegtas MI sistēmas, kas izveido vai paplašina sejas atpazīšanas datubāzes, nemērķorientēti apstrādājot sejas attēlus no interneta vai videonovērošanas sistēmu video;
- aizliegts klasificēt fiziskas personas noteiktā laikposmā, pamatojoties uz viņu sociālo uzvedību vai personības īpašībām;
- aizliegta fizisku personu radītā riska novērtējuma veikšana, lai novērtētu/prognozētu risku, ka fiziska persona varētu izdarīt noziedzīgu nodarījumu;
- aizliegts izsecināt fiziskas personas emocijas darbavietā vai izglītības iestādē;
- aizliegts izmantot kādu no fiziskas personas neaizsargātības iezīmēm viņu vecuma, invaliditātes vai konkrētas sociālās vai ekonomiskās situācijas dēļ, piemēram, MI iespējota rotaļlieta bērniem, mudinot izpildīt riskantus izaicinājumus, kas var nodarīt fizisku kaitējumu;
- aizliegta reāllaika biometriskās tālidentifikācijas sistēmu izmantošana publiski piekļūstamās vietās tiesībaizsardzības nolūkos.
Par šo aizliegumu neievērošanu var tikt piemērots administratīvais naudassods līdz pat vairāku miljonu eiro apmērā.
Uzņēmumiem ir pienākums pārliecināties, vai viņu partneri neizmanto aizliegtās MI sistēmas, lai nerastos pašu uzņēmumu atbilstības risks.
Tāpat MI sistēmu nodrošinātājiem un izvietotājiem jāveic pasākumi, lai pēc iespējas labāk nodrošinātu pietiekamu MI lietotprasmes līmeni saviem darbiniekiem un citām personām, kas nodarbojas ar MI sistēmu ekspluatāciju un lietošanu, ievērojot kontekstu, kurā MI sistēmas tiks izmantotas.
ES valstis joprojām varēs atļaut tiesībaizsardzības iestādēm, tajā skaitā policijai, reāllaikā veikt sejas atpazīšanu sabiedriskās vietās.
MI akts tiks ieviests pakāpeniski līdz 2026.gadam ar nākamajiem posmiem, kas aptvers vēl stingrākus noteikumus attiecībā uz augsta riska MI sistēmām un uzņēmumu atbildību. Šī ir nozīmīga reforma, kas ietekmēs gan uzņēmumus, gan valsts iestādes visā ES.
Lai nodrošinātu atbilstību jaunajām prasībām, uzņēmumiem un iestādēm būs jāpielāgo savas MI sistēmas un to lietošanas stratēģijas. Paredzams, ka šis regulējums palīdzēs veicināt atbildīgu un ētisku MI attīstību Eiropā.
