Změní generativní umělá inteligence pravidla hry?

Nový průzkum společnosti Salesforce, který proběhl mezi více než 500 vedoucími pracovníky v oblasti IT odhalil, že většina (67 %) považuje generativní AI za prioritu pro svůj podnik v příštích 18 měsících, přičemž třetina (33 %) ji označila za prioritu úplně nejvyšší.

Navzdory zájmu má však většina IT pracovníků technické a etické problémy, které mohou ovlivnit využívání technologie v nadcházejícím roce.

Získaná data zdůrazňují silný potenciál generativní AI. Ukazují, jak budou muset vedoucí pracovníci nastavit technickou infrastrukturu, datovou strategii, bezpečnostní a etické směrnice a dovednosti zaměstnanců, které jsou nezbytné pro využití obrovské příležitosti, jež se otevírá.

Bude to opravdová “změna hry”

Nadpoloviční většina vedoucích pracovníků v oblasti IT (57 %) se domnívá, že generativní AI zcela mění pravidla hry. Věří totiž, že tato technologie má potenciál nejen lépe sloužit zákazníkům, ale také využívat získaná data a fungovat efektivněji. Tento pohled se odráží i mezi skeptiky, kdy 80 % z těch, kteří tvrdí, že je tato technologie “přehnaně propagovaná”, souhlasí s tím, že jim generativní AI pomůže.

Etické a provozní obavy vyvolávají skepsi

Třiatřicet procent dotázaných se domnívá, že generativní umělá inteligence je “přehnaně propagována”, a obává se, že tato technologie přináší potenciální bezpečnostní rizika (79 %) a zkreslení (73 %).

Obavy se netýkají jen jich. Většina z 515 dotázaných vedoucích pracovníků v oblasti IT je zároveň skeptická ohledně etických důsledků generativní umělé inteligence. Téměř šest z deseti (59 %) se dokonce domnívá, že výstupy generativní AI jsou nepřesné, a téměř dvě třetiny (63 %) souhlasí s tím, že ve výstupech generativní AI existuje zaujatost (např. dezinformace a nenávistné projevy). Kromě toho 71 % respondentů souhlasí s tím, že generativní AI by zvýšila jejich uhlíkovou stopu, a to v důsledku zvýšené spotřeby energie v IT.

Bezpečnostní rizika, integrace a oddělená data jsou hlavními překážkami implementace

Z průzkumu také vychází, že podniky zatím nejsou zcela připraveny na úspěšnou implementaci: 65 % vedoucích pracovníků v současné době nedokáže zdůvodnit implementaci generativní AI ve své firmě. Dotazovaní také uvádějí hlavní překážky úspěšného využití generativní AI v jejich organizaci, kdy mezi hlavní řadí zejména bezpečnostní překážky.

Kvůli tomu se téměř všichni respondenti (99 %) také domnívají, že jejich podnik musí prvotně přijmout opatření, která mu umožní úspěšně využívat tuto technologii později.

Spolupráce může řešit technické a etické problémy generativní umělé inteligence

Základem používání AI musí být i etika. Ale navzdory tomu, že se objevují etické a bezpečnostní obavy, vedoucí pracovníci si zatím nejsou jistí, jak etiku uvést do praxe – přibližně třetina (30 %) podniků se totiž domnívá, že k úspěšnému zavedení generativní AI v rámci svého podniku musí nejprve existovat směrnice pro etické používání.

Je proto na podnicích, aby spolupracovaly a sdílely své znalosti a generativní AI se tak mohla stát realitou v celém podniku. Vedoucí pracovníci považují vzájemnou spolupráci za klíčový nástroj, který zajistí funkčnost a etické využívání technologie.

• 81 % se domnívá, že generativní AI by měla kombinovat veřejné a soukromé zdroje dat
• 82 % se domnívá, že by podniky měly spolupracovat na zlepšení funkčnosti technologie generativní AI
• Více než 8 z 10 (83 %) si myslí, že podniky musí spolupracovat, aby zajistily etické využívání generativní AI.

„Generativní AI představuje zásadní změnu ve způsobu, jakým budou organizace napříč odvětvími analyzovat data, automatizovat procesy a umožňovat profesionálům v oblasti prodeje, služeb, marketingu a obchodu rozvíjet vztahy se zákazníky – přináší to sebou ale i nová rizika a výzvy,“ řekla Clara Shih, generální ředitelka služby Service Cloud společnosti Salesforce.