AI agenti mění vývoj softwaru. Kdo za jejich rozhodnutí odpovídá?

Pro většinu lidí dnes AI znamená hlavně ChatGPT: položíte otázku a dostanete odpověď. AI agent jde o krok dál. Dostane úkol, sám zvolí několik kroků a může je také provést. Ve vývoji softwaru tak může například upravit programový kód, spustit testy nebo připravit novou verzi aplikace k nasazení.

„AI už není jen nástroj, který člověku radí. Postupně se stává někým, kdo může část práce skutečně vykonat. Odpovědnost za výsledek ale zůstává na firmě,“ říká Petr Svoboda, CEO společnosti CodeNOW®.

Když počet zaměstnanců neroste, ale počet pracovníků ano

Firma nemusí přijmout jediného nového člověka, a přesto může během krátké doby získat stovky nových „pracovníků". Stačí, když 50 vývojových týmů začne používat deset různých agentních rolí, a firma jich najednou má až 500, aniž by kohokoliv najímala.

S tím přicházejí otázky, které firmy dobře znají z řízení lidí, jen teď se týkají softwaru: kdo agenta vytvořil, za co odpovídá a k čemu má přístup. A jednou přijde i ta méně příjemná – kdo mu ta oprávnění zase odebere, až přestane být potřeba.

Kontrola musí probíhat ve chvíli, kdy se změna děje

Dnešní kontrolní a schvalovací postupy vznikaly ve světě, kde změny probíhaly lidským tempem. AI dokáže množství návrhů, testů a změn výrazně zvýšit. Ruční schvalování každého kroku proto nemusí stačit.

Firma potřebuje předem určit, kdo nebo co smí provést konkrétní změnu, kde ji smí provést a za jakých podmínek. Stejná pravidla pak mohou platit pro člověka, běžnou automatizaci i AI agenta.

Nejde jen o bezpečnost

Vedení firem bude řešit také náklady a výsledky. Víc vygenerovaného kódu nebo zpracovaných úloh ještě neznamená víc produktivity. Podstatné je, jestli AI skutečně zkracuje dobu potřebnou k nasazení změny, snižuje počet oprav a šetří peníze.

Otázka proto nezní jen „Kolik AI používáme?", ale hlavně:

Kdo za ni odpovídá? Kolik stojí? A kde skutečně vytváří hodnotu?

CodeNOW® k tomu přistupuje jako k řízení samotného provádění změn. Nenahrazuje systémy, které firma už používá, ale přidává nad ně společná pravidla pro oprávnění, kontrolu a dohledatelnost.

„Ve chvíli, kdy AI přestane pouze radit a začne sama jednat, přestává být čistě technickým tématem. Stává se otázkou řízení firmy,“ uzavírá Svoboda.