Akt EU o umělé inteligenci: Milník pro podporu bezpečné a důvěryhodné umělé inteligence

První jasná a komplexní pravidla pro využívání umělé inteligence přijal 13. března 2024 Evropský parlament. Bez přehánění jde o historický milník pro AI: Akt Evropské unie o umělé inteligenci (EU AI Act) prošel europarlamentem drtivou většinou hlasů a jde o první komplexní právní rámec svého druhu pro správu umělé inteligence na světě. Vytváří podmínky pro zodpovědné přijetí umělé inteligence a podporuje důvěru a transparentnost v tuto technologii. Společnost Salesforce jako přední integrátor AI vysvětluje, proč jsou tato pravidla potřebná a co přináší uživatelům AI.

Podpora důvěry veřejnosti v umělou inteligenci pomocí rámců řízení

V době, kdy služby využívající umělou inteligenci přinášejí revoluci v produktivitě a kdy se vlády potýkají s myšlenkou regulace této důležité technologie, poskytuje zákon EU o umělé inteligenci důležitý nástroj, který může být vodítkem pro veřejné i soukromé subjekty při jejich dalším vývoji a inovacích v oblasti umělé inteligence.

Výzkum potvrzuje, že evropská veřejnost má o takové poradenství zájem. Občané jsou zvědaví na umělou inteligenci, ale obávají se ochrany osobních údajů, dezinformací a dalších rizik a spoléhají na to, že zákonodárci budou tato rizika řešit prostřednictvím ochranných opatření a norem.

Jde tedy o vhodnou a konstruktivní úlohu vlád, aby po konzultaci s dalšími zúčastněnými stranami podnikly definitivní a koordinované kroky k budování důvěry v umělou inteligenci a k prosazování odpovědných, bezpečných, na rizicích založených a globálně interoperabilních politických rámců v oblasti umělé inteligence.

Jak se zákon EU o umělé inteligenci shoduje se závazkem společnosti Salesforce poskytovat důvěryhodnou umělou inteligenci?

Ve společnosti Salesforce byla důvěra vždy hodnotou číslo jedna. Více než deset let proto investovala do etické umělé inteligence, jak ve svém podnikání, tak směrem k zákazníkům. Kancelář pro etické a humánní používání společnosti Salesforce totiž hraje zásadní roli při vývoji a nasazování důvěryhodné AI. V návaznosti na jejich zásady proto jen v uplynulém roce zveřejnila např. Pokyny pro generativní umělou inteligenci, Zásady přijatelného používání umělé inteligence a pokyny pro to, jak mít člověka ve vedení inovace.

Proto se společnost Salesforce aktivně podílí na prosazování ochranných opatření v souladu s tím, co stanoví zákon EU o umělé inteligenci, včetně:

1. Regulace založená na riziku: Regulační orgány EU si uvědomily, že umělou inteligenci nelze regulovat univerzálním přístupem. Salesforce podporuje tento diferencovaný přístup, který spočívá v tom, že míru regulace AI určuje na základě rizika, která rozlišuje kontexty a využití technologie a zajišťuje ochranu jednotlivců, buduje důvěru a podporuje inovace.
2. Transparentnost jako klíčová zásada: Akt EU o umělé inteligenci obsahuje povinnosti týkající se transparentnosti a rozdělení odpovědnosti v rámci hodnotového řetězce umělé inteligence. Tato opatření umožňují jednotlivcům činit informovaná rozhodnutí a pochopit, jak na ně systémy AI působí, a zajišťují tak odpovědnost.
3. Soulad se zákony o ochraně osobních údajů: Dlouhodobě prosazujeme komplexní právní předpisy o ochraně osobních údajů, které chrání základní lidské právo na soukromí. Zákon o umělé inteligenci zavádí další pravidla pro správu údajů, včetně přesnosti údajů a zjišťování zkreslení.
4. Stimulace inovací: Akt EU o umělé inteligenci umožňuje menším firmám vyvíjet řešení umělé inteligence v tzv. „regulačních pískovištích“: prostředí, kde mohou podniky zkoumat a experimentovat s novými inovacemi.
5. Harmonizované provádění podporované spoluprací veřejného a soukromého sektoru: Jsme přesvědčeni, že veřejný a soukromý sektor spolu s občanskou společností a akademickou obcí se musí zavázat ke spolupráci na vývoji a zavádění důvěryhodné AI. Existence „Úřadu EU pro umělou inteligenci“, který by dohlížel na prosazování pravidel v celé Evropě a přispíval k novým standardům a testovacím postupům, umožňuje tento společný přístup k novým vznikajícím technologiím.
6. Globální spolupráce: Akt EU o umělé inteligenci zahrnuje definici umělé inteligence OECD, která byla mírně upravena tak, aby odpovídala zákonu. Toto sladění podporuje globálně koordinovaný přístup k umělé inteligenci a k typům systémů, které by měly být regulovány.

Co bude dál se zákonem o umělé inteligenci

Po schválení zákona o umělé inteligenci Evropským parlamentem zbývá ještě několik kroků k jeho uzákonění.

• Očekává se, že akt EU o umělé inteligenci bude oficiálně schválen členskými státy a zveřejněn v Úředním věstníku EU krátce po hlasování 13. března a začne platit o 20 dní později.
• Společnosti pak budou mít dva roky na to, aby splnily jeho požadavky, přičemž se očekává, že akt EU o umělé inteligenci bude plně použitelný od poloviny roku 2026. Pravidla týkající se obecné umělé inteligence se začnou uplatňovat po jednom roce, tedy od poloviny roku 2025.
• Jsme přesvědčeni, že vytvořením rámců založených na rizicích, jako je například Akt EU o umělé inteligenci, prosazováním závazků k etické a důvěryhodné umělé inteligenci, a svolávání více zúčastněných skupin , mohou regulační orgány dosáhnout významného pozitivního dopadu. Společnost Salesforce tleská institucím EU za to, že se v této oblasti ujímají vedoucí úlohy.
• Těšíme se, že budeme moci dále přispívat k této společné výzvě a spolupracovat s tvůrci politik EU během fáze provádění, přičemž důvěra bude základním kamenem rozvoje umělé inteligence.

13. března 2024

Den kdy byl přijat Akt Evropské unie o umělé inteligenci (EU AI Act). Schválen Evropským parlamentem na úrovni výborů, což je předposlední krok před tím, než se stane zákonem EU. Akt EU o umělé inteligenci je prvním komplexní právní rámec svého druhu na celém světě a je zaměřen na regulaci umělé inteligence.

Proč je to důležité: Zatímco společnosti urychleně integrují služby poháněné umělou inteligencí, aby zvýšily produktivitu, vlády po celém světě se stále potýkají s tím, jak nejlépe zajistit, aby umělá inteligence byla vytvářena a nasazována bezpečně, důvěryhodně a spravedlivým způsobem. Zákon EU o umělé inteligenci, navržený regulačními orgány v roce 2021, poskytuje rámec, kterým se mají řídit veřejné i soukromé subjekty při vývoji a zavádění této technologie.

Perspektiva společnosti Salesforce: Eric Loeb, EVP pro globální vládní záležitosti, vysvětlil, jak se regulace může sladit se závazkem společnosti Salesforce k důvěryhodné umělé inteligenci.

• „Společnost Salesforce věří, že využití síly umělé inteligence důvěryhodným způsobem bude vyžadovat, aby vlády, firmy a občanská společnost spolupracovaly na prosazování odpovědných, bezpečných, na rizicích založených a globálně interoperabilních rámců politiky umělé inteligence,“ řekl Loeb.
• „Průběh Aktu EU o umělé inteligenci významně posunul diskuse o politice umělé inteligence po celém světě. Společnost Salesforce chválí tvůrce politiky, kteří stojí za zákonem EU o umělé inteligenci, za to, že pečlivě pracují na diferencovaných přístupech, včetně na základě rizik přístupu a etických zábran,“ pokračoval.
• Loeb dále řekl: „Vývoj založených na rizicích rámců by se měl týkat celého hodnotového řetězce činnosti v oblasti UI. UI není univerzální přístup a účinné rámce by měly chránit občany a zároveň podporovat inkluzivní inovace a hospodářskou soutěž.“