BRUSEL. Európska komisia v stredu predostrela návrh nových pravidiel zameraných na to, aby sa Európa stala svetovým centrom dôveryhodnej umelej inteligencie.
Kombinácia prvého právneho rámca umelej inteligencie a nového koordinovaného plánu s členskými štátmi EÚ bude zárukou bezpečnosti a základných práv ľudí a podnikov a zároveň posilní zavádzanie umelej inteligencie, investície a inováciu v celej Únii.
Túto koncepciu doplnia nové pravidlá týkajúce sa strojových zariadení, na základe ktorých sa prispôsobia bezpečnostné pravidlá. Zámerom je zvýšiť dôveru používateľov v novú všestrannú generáciu výrobkov.
Štyri kategórie rizík
Európska koncepcia dôveryhodnej umelej inteligencie má štyri kategórie rizika - neprijateľné, vysoké, obmedzené a minimálne riziko.
Vysokorizikové systémy umelej inteligencie zahŕňajú technológiu umelej inteligencie používanú:
- v kritickej infraštruktúre (doprava), kde by mohlo dôjsť k ohrozeniu života a zdravia občanov
- vo vzdelávaní alebo odbornej príprave (bodovanie testov)
- v bezpečnostných komponentoch produktov (aplikácie v roboticky asistovanej chirurgii)
- v oblasti zamestnania, riadenia zamestnancov a prístupe k samostatnej zárobkovej činnosti (softvér triediaci životopisy)
- v základných súkromných a verejných službách (bodové hodnotenie kreditného rizika, pre možnosť získavať úvery)
- pri presadzovaní práva, kde môže dochádzať k zasahovaniu do základných práv ľudí
- pri riadení migrácie, udeľovania azylu a kontroly hraníc (overovanie pravosti cestovných dokladov)
- pri výkone spravodlivosti a demokratických procesoch.
Neprijateľné riziko je vtedy, keď sú systémy UI považované za ohrozenie bezpečnosti, živobytia a práv ľudí.
Do zakázanej kategórie patria systémy alebo aplikácie UI, ktoré manipulujú s ľudským správaním s cieľom obísť slobodnú vôľu používateľa, a systémy, ktoré vládam umožňujú "sociálne hodnotenie".
Biometrická identifikácia
Za vysokorizikové sa považujú všetky systémy biometrickej identifikácie na diaľku.
Vzťahujú sa na ne prísne požiadavky a ich používanie v reálnom čase a verejne prístupných priestranstvách na účely presadzovania práva je zo zásady zakázané. Na vysokorizikové systémy umelej inteligencie sa budú vzťahovať prísne povinnosti pred tým, ako sa budú môcť uviesť na trh.
Obmedzené riziko platí pre systémy umelej inteligencie, ktoré podliehajú špecifickým požiadavkám na transparentnosť - pri používaní systémov UI, ako sú chatboty, by si užívatelia mali byť vedomí, že komunikujú so strojom, aby sa mohli fundovane rozhodnúť, či tieto aplikácie budú naďalej používať alebo nie.
Minimálne riziko platí pri neobmedzenom používaní aplikácií, ako sú videohry na základe umelej inteligencie alebo spamové filtre. Prevažná väčšina systémov UI spadá do tejto kategórie.
Komisia navrhla, aby na nové pravidlá o umelej inteligencii dohliadali vnútroštátne príslušné orgány dohľadu nad trhom.
Vytvorí sa aj Európska rada pre umelú inteligenciu, ktorej úlohou bude uľahčovať vykonávanie týchto pravidiel a ktorá bude vypracovávať normy pre umelú inteligenciu.
Okrem toho Európska komisia navrhuje aj dobrovoľné kódexy správania pri nízkorizikovej umelej inteligencii a experimentálne regulačné prostredie v snahe uľahčiť zodpovedné inovácie.
Zaručiť dôveryhodnosť umelej inteligencie
Podpredsedníčka Európskej komisie zodpovedná za digitálnu oblasť Margrethe Vestagerová v tejto súvislosti spresnila, že EÚ sa týmito jasnými pravidlami stavia do čela vývoja nových celosvetových noriem v snahe zaručiť dôveryhodnosť umelej inteligencie.
"Normy nám pomôžu vydláždiť cestu k etickej technológii na celom svete a zabezpečiť konkurencieschopnosť EÚ. Naše pravidlá sú nadčasové a priaznivé pre inováciu, zásah povoľujú len pri ohrození bezpečnosti a základných práv občanov EÚ," vysvetlila.
Potenciál na priemyselné účely
Komisia pripomenula, že umelá inteligencia existuje už desaťročia, ale vďaka narastajúcej výpočtovej kapacite získala nové schopnosti a ponúka obrovský potenciál v najrozmanitejších oblastiach - od zdravia, cez dopravu, energiu, poľnohospodárstvo, cestovný ruch až po kybernetickú bezpečnosť.
Zároveň však treba vnímať rôzne riziká, a preto návrh Európskej komisie znamená posilnenie pozície Európy ako svetového centra výnimočnosti v oblasti umelej inteligencie od laboratórií až po trh a snahu zabezpečiť, aby umelá inteligencia v Európe dodržiavala únijné hodnoty a pravidlá a aby sa jej potenciál využil na priemyselné účely.
Návrhy Európskej komisie o európskej koncepcii umelej inteligencie a strojárenských výrobkov musia prijať Európsky parlament a Rada EÚ v riadnom legislatívnom postupe.
