Byl přijat další milník ve vývoji předpisů týkajících se umělé inteligence. V důsledku dlouhodobých diskusí a spolupráce různých zainteresovaných stran došlo k dohodě o komplexních předpisech, které mají za cíl zajistit důvěryhodnou implementaci a využívání umělé inteligence.
Poslanci dosáhli politické dohody s Radou o návrhu zákona, který zajišťuje bezpečnost umělé inteligence v Evropě, dodržování základních práv a demokracie a schopnost podniků prosperovat a rozvíjet se.
zákon o umělá inteligence vznikla v reakci na dynamický rozvoj tohoto oboru a pochopení potřeby regulovat aspekty související s etikou, soukromím, bezpečností a transparentností v aplikacích umělé inteligence.
Mezi klíčové prvky zavedených pravidel patří:
Etické zásady AI: Definování základních principů chování pro návrh, tvorbu a používání umělé inteligence s důrazem na dodržování lidských práv, spravedlnost a férovost.
Odpovědnost a transparentnost: Stanovení pravidel odpovědnosti za akce prováděné systémy na bázi umělé inteligence a také požadavek transparentnosti v rozhodovacím procesu algoritmů.
Zabezpečení a soukromí: Zajištění vhodných bezpečnostních opatření a ochrana soukromí dat osobní údaje v aplikacích umělé inteligence.
Sledování a regulace: Vytvořte mechanismy pro sledování a pravidelné hodnocení dodržování předpisů, abyste zajistili neustálé přizpůsobování se měnícímu se technologickému prostředí.
Mezinárodní spolupráce: Úsilí o mezinárodní spolupráce v oblasti umělé regulace inteligence k zajištění globální konzistence akcí.
Nařízení má za cíl poskytování ochrany základní práva, demokracie, právní stát a udržitelnost životního prostředí v boji proti vysoce rizikové umělé inteligenci a zároveň pohánějí inovace a činí Evropu lídrem v této oblasti. Předpisy stanoví povinnosti ohledně umělých inteligence založená na potenciálním riziku a míře dopadu.
Přečtěte si také: NAV se musí lépe starat o ochranu dat – bylo zjištěno 12 porušení
Co je zakázáno
Spoluzákonodárci uznali potenciální hrozbu pro občanská práva a demokracii, kterou představují některé aplikace umělé inteligence, a shodli se na zákazu:
- biometrické kategorizační systémy využívající citlivé prvky (např. politické, náboženské, filozofické přesvědčení, sexuální orientace, rasa);
- Necílené stahování obrázků obličeje z internetu nebo záběrů CCTV za účelem vytváření databází pro rozpoznávání obličejů;
- rozpoznávání emocí v pracoviště a vzdělávací instituce;
- sociální bodování založené na sociálním chování nebo osobních charakteristikách;
- systémy umělé inteligence, které manipulují lidské chování, aby obešly jejich svobodnou vůli;
- Umělá inteligence slouží k využívání slabých stránek lidí (vzhledem k jejich věku, zdravotnímu postižení, sociální či ekonomické situaci).
Výjimky vymáhání doprava
Vyjednavači souhlasili s řadou záruk a úzkých výjimek. Týkají se používání systémů biometrické identifikace (RBI) ve veřejně přístupných prostorách pro účely vymáhání práva, s výhradou předchozího povolení soudu a v případě přesně definovaných seznamů trestných činů. „Vzdálený“ RBI by se používal pouze pro cílené vyhledávání osoba odsouzená nebo podezřelá ze spáchání závažného trestného činu.
RBI v reálném čase by splňovala přísné podmínky a její použití by bylo časově a místně omezeno pro účely:
- cílené vyhledávání obětí (únosy, obchodování s lidmi, sexuální vykořisťování),
- předcházení konkrétní a aktuální teroristické hrozbě, popř
- umístění nebo identifikace osoby podezřelé ze spáchání jednoho ze specifických trestných činů uvedených v nařízení (např. terorismus, obchodování s lidmi, sexuální vykořisťování, vražda, únos, znásilnění, ozbrojená loupež, účast ve zločinecké organizaci, trestný čin proti životnímu prostředí).
Tato dohoda je krokem vpřed ve formování životního prostředí. Umožní rozvoj umělé inteligence při respektování etických hodnot a odpovědných principů použití této technologie.
Očekává se, že návrh zákona bude v nejbližší době předložen k dalším legislativním postupům, čímž bude zahájena diskuse o téma nového právního rámce pro umělou inteligenci.
Dejte nám like na Facebooku a sdílejte náš příspěvek s ostatními
Źródło: Evropský parlament
Přečtěte si také: Historie norské ropy za 5 minut