Navigation path

Left navigation

Additional tools

Evropská komise - Tisková zpráva

Umělá inteligence: Evropská komise podnikla další kroky směřující ke vzniku etických pokynů

Brusel 8. dubna 2019

Komise dnes představuje výsledky práce odborné skupiny na vysoké úrovni a další kroky směřující k budování důvěry v umělou inteligenci.

Na základě výsledků práce skupiny nezávislých odborníků jmenovaných v červnu 2018 dnes Komise zahajuje pilotní fázi, aby ověřila vhodnost etických pokynů pro vývoj a využívání umělé inteligence a umožnila jejich uplatňování v praxi. Komise vyzývá zástupce průmyslu, výzkumné instituce a veřejné orgány, aby otestovali podrobný seznam sloužící k hodnocení technologií umělé inteligence, který skupina odborníků na vysoké úrovni vypracovala a který je k současné verzi pokynů připojen.

Dnes představený přístup je součástí strategie pro umělou inteligenci, kterou Komise představila v dubnu 2018 a jejímž cílem je zvýšit v příštím desetiletí objem veřejných a soukromých investic nejméně na 20 miliard eur ročně, zajistit dostupnost dostatečného objemu dat, podpořit talenty a vybudovat důvěru.

Místopředseda Evropské komise odpovědný za jednotný digitální trh Andrus Ansip v této souvislosti uvedl: „Vítám výsledky práce, kterou odvedli nezávislí odborníci. Etický rozměr umělé inteligence není žádným luxusem ani doplňkem. Technologie je možné plně využívat pouze tehdy, budou-li pro naši společnost důvěryhodné. Eticky vyhovující umělá inteligence bude pro Evropu přínosem, neboť se může stát její konkurenční výhodou. V oblasti umělé inteligence zaměřené na člověka, jež se bude těšit důvěře veřejnosti, se Evropa může stát lídrem.“

Komisařka pro digitální ekonomiku a společnost Marija Gabrielová jeho slova doplnila: „Učinili jsme dnes důležitý krok směrem ke vzniku etické a bezpečné umělé inteligence. Nyní máme k dispozici solidní základ, který je vychází z hodnot EU a který vznikl za široké a konstruktivní účasti mnoha zúčastněných stran, včetně podniků, akademické obce a občanské společnosti. Tyto požadavky nyní zavedeme do praxe a podpoříme zároveň mezinárodní debatu o umělé inteligenci zaměřené na člověka.“

Umělá inteligence může být prospěšná v široké škále odvětví, například ve zdravotnictví, při optimalizaci spotřeby energie, ke zvýšení bezpečnosti automobilů, v zemědělství, v boji proti změně klimatu a k řízení finančních rizik. Může také pomoci odhalovat podvody a kybernetické bezpečnostní hrozby a účinněji bojovat proti trestné činnosti. Přinese však i nové výzvy v oblasti zaměstnanosti a v souvislosti s ní vyvstávají různé právní a etické otázky.

Komise zde uplatňuje třístupňový přístup: klíčové požadavky na důvěryhodnost umělé inteligence, rozsáhlý pilotní projekt k získání zpětné vazby od zúčastněných stran a úsilí směřující k mezinárodnímu konsensu ohledně umělé inteligence zaměřené na člověka.

1. Sedm podmínek důvěryhodnosti umělé inteligence

Umělá inteligence bude důvěryhodná, bude-li vyhovovat všem platným právním a správním předpisům a souboru stanovených požadavků. K otestování jednotlivých klíčových požadavků poslouží zvláštní hodnotící seznam otázek.

  • Možnost řízení a dohledu ze strany člověka: Systémy využívající umělou inteligenci by měly pomáhat vytvářet spravedlivou společnost podporou lidského faktoru a dodržováním základní práv, nikoliv lidskou nezávislost zmenšovat, omezovat nebo zavádějícím způsobem směrovat.
  • Robustnost a bezpečnost: Důvěryhodná umělá inteligence musí být založena na bezpečných, spolehlivých a odolných algoritmech, které bude možné použít i v případě, že se vyskytnou chyby nebo bude systém nestabilní, a to během všech životních cyklů systému.
  • Ochrana soukromí a dat: Občané by měli mít plnou kontrolu nad svými údaji a údaje o nich nesmí být použity k jejich újmě ani diskriminaci.
  • Transparentnost: Systémy umělé inteligence musí být sledovatelné.
  • Rozmanitost, zákaz diskriminace a rovné zacházení: Systémy umělé inteligence by měly zohledňovat celou škálu lidských schopností, dovedností a požadavků a měly by být přístupné všem.
  • Společenský a environmentální prospěch: Systémy umělé inteligence by se měly využívat k podpoře pozitivních sociálních změn a ke zvýšení udržitelnosti a ekologické odpovědnosti.
  • Odpovědnost: Měly by být zavedeny mechanismy, které zajistí odpovědnost za systémy umělé inteligence a za výsledky jejich činnosti.

2. Rozsáhlý pilotní projekt s partnery

V létě 2019 Komise zahájí pilotní projekt, do kterého se zapojí celá řada zúčastněných stran. Společnosti, orgány veřejné správy a organizace se mohou již nyní připojit k evropské alianci pro umělou inteligenci. Na základě toho obdrží oznámení, až bude pilotní projekt zahájen. Členové skupiny odborníků na vysoké úrovni dále pomohou v členských státech představit a vysvětlit pokyny zainteresovaným partnerům.

3. Budování mezinárodního konsenzu ohledně umělé inteligence zaměřené na člověka

Komise chce svůj přístup k etickým aspektům umělé inteligence nabídnout mezinárodnímu společenství, protože technologie, data a výpočetní algoritmy se využívají a budou využívat bez ohledu na hranice států. Komise proto posílí spolupráci s podobně smýšlejícími partnery, jako jsou Japonsko, Kanada nebo Singapur, a bude i nadále hrát aktivní úlohu v mezinárodních diskusích a iniciativách, včetně skupin G7 a G20. Do pilotního projektu se rovněž zapojí společnosti z jiných zemí a mezinárodní organizace.



Další kroky

Členové skupiny odborníků pro umělou inteligenci představí výsledky své práce 9. dubna 2019 v Bruselu během třetího Digitálního dne. Po dokončení pilotní fáze skupina odborníků počátkem roku 2020 hodnotící seznam a klíčové požadavky přezkoumá, přičemž využije získanou zpětnou vazbu. Na základě této revize Komise vyhodnotí výsledky a naplánuje další případné kroky.

Kromě toho v zájmu etických aspektů vývoje umělé inteligence Komise do podzimu roku 2019 zahájí provoz sítě center excelence pro výzkum umělé inteligence, začne vytvářet síť center pro digitální inovace a spolu s členskými státy a zúčastněnými stranami zahájí debatu o vytvoření a implementaci modelu sdílení dat a optimálního využití společného datového prostoru v řadě odvětví.

 

Souvislosti

Komise usnadňuje a posiluje v EU spolupráci zaměřenou na tuto oblast s cílem zvýšit konkurenceschopnost a zajistit důvěru v umělou inteligenci, jež bude vycházet z hodnot EU. V návaznosti na  evropskou strategii pro umělou inteligenci, která byla zveřejněna v dubnu 2018, zřídila Komise skupinu odborníků na vysoké úrovni, kterou tvoří 52 nezávislých expertů zastupujících akademickou obec, průmysl a občanskou společnost. Skupina zveřejnila v prosinci 2018 první návrh etických pokynů, po nichž následovala konzultace se zúčastněnými stranami a jednání se zástupci členských států. Toto úsilí navazuje na koordinovaný plán, podle kterého budou členské státy podporovat vývoj a využívání umělé inteligence v Evropě, jenž byl předložen v prosinci 2018.

 

Další informace

Sdělení: Budování důvěry v umělou inteligenci zaměřenou na člověka

Umělá inteligence – etické pokyny

Umělá inteligence – infopřehled

Expertní skupina na vysoké úrovni pro umělou inteligenci

Evropská aliance pro umělou inteligenci

Umělá inteligence: evropská perspektiva

AI Watch 

IP/19/1893

Kontaktní osoby:

Pro veřejnost: služba Europe Direct , tel 00 800 67 89 10 11 nebo e-mail


Side Bar