Pēc trīs dienu "maratona" sarunām Padomes prezidentūra un Eiropas Parlamenta sarunu dalībnieki ir panākuši provizorisku vienošanos par priekšlikumu par saskaņotiem noteikumiem par mākslīgo intelektu (AI), tā saukto mākslīgā intelekta likumu. Regulas projekta mērķis ir nodrošināt, lai Eiropas tirgū laistās un ES izmantotās mākslīgā intelekta sistēmas būtu drošas un ievērotu pamattiesības un ES vērtības. Šī ievērojamā priekšlikuma mērķis ir arī stimulēt investīcijas un inovācijas mākslīgā intelekta jomā Eiropā.
Tas ir vēsturisks sasniegums un milzīgs pavērsiens nākotnē! Šodienas nolīgums efektīvi risina globālu izaicinājumu strauji mainīgā tehnoloģiskā vidē mūsu sabiedrības un ekonomikas nākotnes galvenajā jomā. Un šajos centienos mums izdevās saglabāt ārkārtīgi trauslo līdzsvaru: veicināt inovācijas un mākslīgā intelekta ieviešanu visā Eiropā, vienlaikus pilnībā ievērojot mūsu pilsoņu pamattiesības. Karme Artigasa, Spānijas valsts sekretāre digitalizācijas un mākslīgā intelekta jautājumos
AI akts ir a flagmanis likumdošanas iniciatīva, kas var veicināt droša un uzticama mākslīgā intelekta izstrādi un ieviešanu visā ES vienotajā tirgū gan privāto, gan valsts dalībnieku vidū. Galvenā ideja ir regulēt AI, pamatojoties uz tā spēju nodarīt kaitējumu sabiedrībai pēc a 'uz risku' pieeja: jo lielāks risks, jo stingrāki noteikumi. Kā pirmais šāda veida tiesību akta priekšlikums pasaulē, tas var noteikt a pasaules standarts AI regulējumam citās jurisdikcijās, tāpat kā GDPR, tādējādi veicinot Eiropas pieeju tehnoloģiju regulējumam pasaules mērogā.
Pagaidu līguma galvenie elementi
Salīdzinājumā ar sākotnējo Komisijas priekšlikumu provizoriskā nolīguma galvenos jaunos elementus var apkopot šādi.
noteikumi par augstas ietekmes vispārējas nozīmes AI modeļi kas var izraisīt sistēmisku risku nākotnē, kā arī augsta riska AI sistēmas
pārskatīta sistēma pārvaldība ar dažām izpildes pilnvarām ES līmenī
saraksta paplašināšana aizliegumi bet ar iespēju izmantot attālināta biometriskā identifikācija tiesībaizsardzības iestādes publiskās vietās, ievērojot drošības pasākumus
labāka tiesību aizsardzība, uzliekot augsta riska AI sistēmu ieviesējiem pienākumu veikt a pamattiesību ietekmes novērtējums pirms AI sistēmas nodošanas ekspluatācijā.
Konkrētāk sakot, pagaidu nolīgums aptver šādus aspektus:
Definīcijas un darbības joma
Lai nodrošinātu, ka definīcija AI sistēma nodrošina pietiekami skaidrus kritērijus AI nošķiršanai no vienkāršākām programmatūras sistēmām, kompromisa vienošanās saskaņo definīciju ar ESAO ierosināto pieeju.
Pagaidu līgumā arī precizēts, ka regula neattiecas uz jomām, kas neietilpst ES tiesību aktu darbības jomā, un tai nekādā gadījumā nevajadzētu ietekmēt dalībvalstu kompetences jomās. valsts drošība vai jebkura struktūra, kurai uzticēti uzdevumi šajā jomā. Turklāt AI likums neattieksies uz sistēmām, kuras tiek izmantotas tikai un vienīgi militārs or aizstāvēšana mērķiem. Tāpat līgums paredz, ka regula neattiektos uz mākslīgā intelekta sistēmām, ko izmanto vienīgi šim nolūkam pētniecību un inovāciju, vai cilvēkiem, kuri AI izmanto neprofesionālu iemeslu dēļ.
reklāma
AI sistēmu klasifikācija kā augsta riska un aizliegta AI prakse
Kompromisa līgums paredz a horizontāls aizsardzības slānis, tostarp augsta riska klasifikācija, lai nodrošinātu, ka netiek uztvertas AI sistēmas, kuras, visticamāk, neizraisīs nopietnus pamattiesību pārkāpumus vai citus nozīmīgus riskus. Tikai AI sistēmas prezentē ierobežots risks būtu pakļauts ļoti gaismai pārredzamības pienākumus, piemēram, atklājot, ka saturs ir ģenerēts AI, lai lietotāji varētu pieņemt pārdomātus lēmumus par turpmāku izmantošanu.
Plašs augsta riska AI sistēmas būtu atļautas, taču uz tām attiecas virkne prasību un pienākumu, lai piekļūtu ES tirgum. Šīs prasības likumdevēji ir precizējuši un koriģējuši tā, ka tās ir vairāk tehniski iespējams un mazāk apgrūtinoša lai ieinteresētās personas ievērotu prasības, piemēram, attiecībā uz datu kvalitāti vai tehnisko dokumentāciju, kas būtu jāsagatavo MVU, lai pierādītu, ka to augsta riska AI sistēmas atbilst prasībām.
Tā kā AI sistēmas tiek izstrādātas un izplatītas, izmantojot sarežģītas vērtību ķēdes, kompromisa līgumā ir iekļautas izmaiņas, kas precizē pienākumu sadale un dažādu aktieru lomas šajās ķēdēs, jo īpaši AI sistēmu nodrošinātāji un lietotāji. Tas arī precizē attiecības starp pienākumiem saskaņā ar AI likumu un pienākumiem, kas jau pastāv saskaņā ar citiem tiesību aktiem, piemēram, attiecīgajiem ES datu aizsardzības vai nozaru tiesību aktiem.
Dažiem AI lietojumiem tiek uzskatīts risks nepieņemams un tāpēc šīs sistēmas tiks aizliegtas ES. Pagaidu līgums aizliedz, piemēram, kognitīvo uzvedības manipulācijas, nemērķtiecīgi metāllūžņos sejas attēlus no interneta vai videonovērošanas kamerām, emociju atpazīšana darba vietā un izglītības iestādēs, sociālie punkti, biometriskā klasifikācija lai izsecinātu sensitīvus datus, piemēram, seksuālo orientāciju vai reliģisko pārliecību, un dažos gadījumos paredzamā policijas darbība privātpersonām.
Tiesībaizsardzības izņēmumi
Ņemot vērā specifiku tiesībaizsardzības iestādes un nepieciešamību saglabāt spēju izmantot AI savā svarīgajā darbā, tika panākta vienošanās par vairākām izmaiņām Komisijas priekšlikumā attiecībā uz AI sistēmu izmantošanu tiesībaizsardzības nolūkos. Ievērojot atbilstošu aizsardzības pasākumi, šīs izmaiņas ir paredzētas, lai atspoguļotu vajadzību ievērot sensitīvu darbības datu konfidencialitāti saistībā ar to darbībām. Piemēram, tika ieviesta ārkārtas procedūra, ļaujot tiesībaizsardzības iestādēm izvietot augsta riska AI rīku, kas nav izturējis atbilstības novērtēšana procedūra steidzamības gadījumā. Tomēr, lai to nodrošinātu, ir ieviests arī īpašs mehānisms pamattiesības būs pietiekami aizsargāti pret jebkādu iespējamo AI sistēmu ļaunprātīgu izmantošanu.
Turklāt attiecībā uz reāllaika izmantošanu attālināta biometriskā identifikācija sistēmām publiski pieejamās vietās, pagaidu nolīgumā ir precizēti mērķi, kur šāda izmantošana ir noteikti nepieciešama tiesībaizsardzības nolūkos, un tādēļ tiesībaizsardzības iestādēm izņēmuma kārtā būtu jāļauj izmantot šādas sistēmas. Kompromisa līgums paredz papildu drošības pasākumi un ierobežo šos izņēmumus, attiecinot tos tikai uz gadījumiem, kad cietuši dažos noziegumos, novēršot patiesus, esošus vai paredzamus draudus, piemēram, teroristu uzbrukumus, un meklējot personas, kuras tiek turētas aizdomās par visnopietnākajiem noziegumiem.
Vispārējas nozīmes AI sistēmas un pamatu modeļi
Ir pievienoti jauni noteikumi, lai ņemtu vērā situācijas, kad AI sistēmas var izmantot daudziem dažādiem mērķiem (vispārējas nozīmes AI), un kur vispārējas nozīmes AI tehnoloģija pēc tam tiek integrēta citā augsta riska sistēmā. Pagaidu līgums attiecas arī uz vispārējas nozīmes mākslīgā intelekta (GPAI) sistēmu īpašiem gadījumiem.
Ir panākta arī vienošanās par īpašiem noteikumiem pamatu modeļi, lielas sistēmas, kas spēj kompetenti veikt plašu atšķirīgu uzdevumu klāstu, piemēram, ģenerēt video, tekstu, attēlus, sarunāties sānu valodā, skaitļot vai ģenerēt datora kodu. Pagaidu līgums paredz, ka dibināšanas modeļiem jāatbilst konkrētiem pārredzamības pienākumus pirms to laišanas tirgū. gadam tika ieviests stingrāks režīms "augsta ietekme" pamatu modeļi. Tie ir pamatmodeļi, kas apmācīti ar lielu datu apjomu un ar progresīvu sarežģītību, iespējām un veiktspēju, kas krietni pārsniedz vidējo, kas var izplatīt sistēmiskus riskus visā vērtību ķēdē.
Jauna pārvaldības arhitektūra
Ievērojot jaunos noteikumus par GPAI modeļiem un acīmredzamo nepieciešamību tos īstenot ES līmenī, AI birojs Komisijā ir izveidota, lai pārraudzītu šos vismodernākos AI modeļus, veicinātu standartu un testēšanas praksi un ieviestu kopējos noteikumus visās dalībvalstīs. A neatkarīgu ekspertu zinātniskā grupa konsultēs AI biroju par GPAI modeļiem, sniedzot ieguldījumu pamatu modeļu iespēju novērtēšanas metodoloģiju izstrādē, konsultējot par augstas ietekmes pamatu modeļu noteikšanu un rašanos, kā arī uzraudzot iespējamos ar pamatu modeļiem saistītos materiālu drošības riskus.
Jūsu darbs IR Klientu apkalpošana AI padome, kas sastāvētu no dalībvalstu pārstāvjiem, paliks kā koordinācijas platforma un padomdevēja iestāde Komisijai un piešķirs dalībvalstīm nozīmīgu lomu regulas īstenošanā, tostarp dibināšanas modeļu prakses kodeksu izstrādē. Visbeidzot, an konsultatīvais forums Ieinteresētajām personām, piemēram, nozares pārstāvjiem, MVU, jaunizveidotiem uzņēmumiem, pilsoniskajai sabiedrībai un akadēmiskajām aprindām, tiks izveidota, lai sniegtu AI valdei tehniskās zināšanas.
Sankcijas
Naudas sodi par AI likuma pārkāpumiem tika noteikti procentos no pārkāpēja uzņēmuma globālā gada apgrozījuma iepriekšējā finanšu gadā vai iepriekš noteiktā apmērā, atkarībā no tā, kura summa ir lielāka. Tas būtu 35 miljoni eiro jeb 7% par aizliegto MI lietojumprogrammu pārkāpumiem, 15 miljoni eiro jeb 3% par AI likuma saistību pārkāpumiem un 7,5 miljoni eiro jeb 1,5% par nepareizas informācijas sniegšanu. Tomēr pagaidu līgums paredz samērīgākus ierobežojumus par administratīvajiem sodiem MVU un jaunizveidotiem uzņēmumiem AI likuma noteikumu pārkāpumu gadījumā.
Kompromisa līgums arī skaidri nosaka, ka fiziska vai juridiska persona var iesniegt sūdzību attiecīgajam tirgus uzraudzības iestāde par neatbilstību AI likumam, un var sagaidīt, ka šāda sūdzība tiks izskatīta saskaņā ar šīs iestādes īpašajām procedūrām.
Pārredzamība un pamattiesību aizsardzība
Pagaidu līgums paredz a pamattiesību ietekmes novērtējums pirms augsta riska mākslīgā intelekta sistēmu tās ieviestāji laiž tirgū. Pagaidu līgums paredz arī palielināt caurspīdīgums attiecībā uz augsta riska AI sistēmu izmantošanu. Jo īpaši daži Komisijas priekšlikuma noteikumi ir grozīti, lai norādītu, ka dažiem augsta riska AI sistēmas lietotājiem, kas ir publiskas struktūras, arī būs jāreģistrējas ES datubāze augsta riska AI sistēmām. Turklāt nesen pievienotajos noteikumos uzsvars tiek likts uz lietotāju pienākumu emociju atpazīšanas sistēma informēt fiziskās personas, kad tās tiek pakļautas šādai sistēmai.
Pasākumi inovāciju atbalstam
Lai izveidotu inovācijām draudzīgāku tiesisko regulējumu un veicinātu uz pierādījumiem balstītu normatīvo mācīšanos, noteikumi par pasākumiem inovācijas atbalstam ir būtiski grozīti salīdzinājumā ar Komisijas priekšlikumu.
Jo īpaši ir precizēts, ka AI reglamentējošās smilšu kastes, kam ir paredzēts izveidot kontrolētu vidi novatorisku AI sistēmu izstrādei, testēšanai un apstiprināšanai, būtu arī jāļauj testēt novatoriskas AI sistēmas reālās pasaules apstākļos. Turklāt ir pievienoti jauni noteikumi, kas ļauj testēšana AI sistēmām reālās pasaules apstākļi, ievērojot īpašus nosacījumus un aizsardzības pasākumus. Lai mazinātu administratīvo slogu mazākiem uzņēmumiem, pagaidu nolīgumā ir iekļauts to darbību saraksts, kas jāveic, lai atbalstītu šādus operatorus, un ir paredzētas dažas ierobežotas un skaidri noteiktas atkāpes.
Spēkā stāšanās
Pagaidu līgums paredz, ka jāpiemēro mākslīgā intelekta tiesību akts divus gadus pēc tās stāšanās spēkā, ar dažiem izņēmumiem attiecībā uz īpašiem noteikumiem.
Nākamie soļi
Pēc šodienas provizoriskās vienošanās turpmākajās nedēļās turpināsies darbs tehniskā līmenī, lai pabeigtu jaunās regulas detaļas. Prezidentvalsts iesniegs kompromisa tekstu dalībvalstu pārstāvjiem (Coreper) apstiprināšanai, kad šis darbs būs pabeigts.
Viss teksts būs jāapstiprina abām iestādēm, un tas ir jāpārskata juristi lingvistiski, pirms to oficiāli pieņems likumdevēji.
Pamatinformācija
Komisijas priekšlikums, kas tika iesniegts 2021. gada aprīlī, ir ES politikas galvenais elements, lai veicinātu droša un likumīga mākslīgā intelekta attīstību un ieviešanu vienotajā tirgū, kurā tiek ievērotas pamattiesības.
Priekšlikumā ir ievērota uz risku balstīta pieeja, un tas nosaka vienotu, horizontālu mākslīgā intelekta tiesisko regulējumu, kura mērķis ir nodrošināt juridisko noteiktību. Regulas projekta mērķis ir veicināt investīcijas un inovācijas mākslīgā intelekta jomā, uzlabot pārvaldību un spēkā esošo tiesību aktu par pamattiesībām un drošību efektīvu izpildi, kā arī atvieglot AI lietojumprogrammu vienotā tirgus attīstību. Tas iet roku rokā ar citām iniciatīvām, tostarp saskaņoto mākslīgā intelekta plānu, kura mērķis ir paātrināt ieguldījumus AI Eiropā. Padome 6. gada 2022. decembrī panāca vienošanos par vispārēju pieeju (sarunu pilnvaras) attiecībā uz šo lietu un uzsāka iestāžu sarunas ar Eiropas Parlamentu (“trīsalogi”) 2023. gada jūnija vidū.
EU Reporter publicē rakstus no dažādiem ārējiem avotiem, kas pauž dažādus viedokļus. Šajos pantos paustās nostājas ne vienmēr atbilst EU Reporter nostājai.
