Zo zákulisia AI transformácie vo firme so 100+ vývojármi

Dunning-Kruger efekt

Pánom Dunningovi a Krugerovi ďakujeme za popísanie fenoménu, ktorý sprevádza každú skúsenosť človeka s prenikaním do novej oblasti. Ani AI nie je v tomto prípade výnimkou. Požičiame si preto pre potreby tohto blogu ich terminológiu a pomocou nej vám dovolíme nazrieť pod pokrievku AI transformácie v Multitude IT Labs, kde dnes nástroje podporované umelou inteligenciou na dennej báze využíva viac ako sto vývojárov, analytikov, test inžinierov a iných technických expertov.

Zdroj: https://understandinginnovation.blog/wp-content/uploads/2015/06/dunning-kruger-0011.jpg

 

Nič nevieme + Úvodný hype

Aj vy si možno pamätáte rok 2023, keď na každej konferencii boli prednášky o AI povinnosťou, no všetci sme z nich odchádzali so zvláštnym pocitom. Hemžilo sa to v nich predikciami ako “AI je budúcnosť”, “AI nás nahradí”, “Zmena je nevyhnutná”, “AI bude súčasťou každého povolania”, no tak nejak chýbali akékoľvek konkrétne postupy, prípadové štúdie alebo hocičo hmatateľné, čo by ste vedeli zajtra vyskúšať vo vašich projektoch.

Tieto silné frázy však už vtedy naštartovali záujem vedenia firiem, či akcionárov. Frázy typu: “AI ešte musí dozrieť”, alebo že: “Naskočíme na vlnu neskôr” sa tak v tých časoch rovnali smrteľnému hriechu.

Každý, kto v tejto dobe začínal s adopciou AI, sa tak stretával s tromi problémami:

1. Začínam s niečím úplne novým a nič o tom neviem
2. Mám pocit viny a tlaku zároveň, lebo všetci hovoria o tom, ako už robia veci s AI a ja
   predsa nemôžem tú vlnu zmeškať
3. Snažím sa nezmeškať vlnu, no existuje len málo konkrétnych návodov

V Multitude sme už v tej dobe využívali umelú inteligenciu a strojové učenie. Najmä v procese skóringu zákazníkov a predikcie. Interné modely strojového učenia, ktoré bežia niekde v Sparku a stará sa o ne jeden tím sú jedna vec. Vybudovať stratégiu adopcie AI celou firmou je však niečo úplne iné.

Nehovoriac o tom, že ako regulovaná banka sme stáli v procese adopcie pred väčším množstvom prekážok ako iné firmy vo voľnejších odvetviach. Čo sa však niekedy javí ako nevýhoda, môže byť neskôr aj výhodou, keďže sme vďaka tomu nemohli ihneď skočiť po úplne každej novej technológii.

Veľkou oporou nám v tomto procese bola stávka na kombináciu Azure Services a GitHub ekosystém (Success story od Microsoftu o Multitude).

 

Vrchol hory hlúposti

Poznáte to. Začnete s najlepšími úmyslami, no ani si nevšimnete ako a hype vás pohltí. Každý deň vychádza nový nástroj. Nová štúdia. Nový model.

Tak začnete. Nakúpite licencie, rozdáte nástroje a… nič.

Žeby tie nástroje samé o sebe nestačili?

Nehovoriac o tom, že AI hype nezasahuje len firmy ako celky, ale aj ľudí ako jednotlivcov. Keď vaši zamestnanci zrazu dostanú chuť zadávať dopyty týkajúce sa firemných procesov a nedajbože klientských dát do ChatGPT, Grok, DeepSeek, Gemini, Claude, atď., prípadne si FE-Classification: General\Anyone nevšimnú že namiesto do firemnej inštancie píšu niečo do súkromnej, máte o problém postarané.

Kľúčovú rolu v procese AI transformácie tak u nás hrala aj regulácia. Vytvorenie registra povolených nástrojov, obmedzenia od security oddelenia, vlastné inštancie, obmedzenie komunikácie, vytvorenie úrovní prístupu k jednotlivým nástrojom.

 

Údolie zúfalstva

V tomto bode sme sa samozrejme ocitli na chvíľu aj my.

• Stovka kľúčových ľudí využívala denne prémiové ChatGPT s našou vlastnou inštanciou kvôli bezpečnosti a zdieľaniu dát
• Všetkým 900 zamestnancom sme sprístupnili OpenAI API pomocou technického
  konta v MS Teams, ktorému mohli napriamo písať správy, pridávať ho do konverzácií a zdieľať s ním súbory.
• Všetkým vývojárom sme sprístupnili našu vlastnú inštanciu GitHub Copilot
• Paralelne sme testovali desiatky AI riešení v rôznych oblastiach, ktoré prešli revíziou nášho bezpečnostného oddelenia
• Všetci zamestnanci dostali možnosť navrhovať nástroje a ich prípady použitia

Sledovať každú novú zmenu a snažiť sa ju napasovať do vášho ekosystému zvládnete len istý čas. Potom príde logicky únava, zahltenie a frustrácia z toho, že neustále skáčete z témy na tému, no akosi sa vám nedarí iniciatívy doťahovať a prinášať hmatateľné a merateľné výsledky.

 

Cesta k osvieteniu

Zastavili sme a vybrali sme si niekoľko iniciatív s najväčším merateľným dopadom na biznis a na efektivitu práce. Postupným ladením sme sa dopracovali do stavu, kedy:

• “AI first” prístup k vývoju je de-facto štandardom v rámci firmy
• 100% vývojárov denne aktívne využíva GitHub Copilot

• Vybraní vývojári využívajú ClaudeCode
• Výber agentic toolingu ostáva na vývojároch. Či už používajú VSCode, OpenCode, Claude Code alebo čokoľvek iné, v každom prípade majú dostupné modely od viacerých spoločností – Anthropic, OpenAI, …
• Používame verejne dostupné repozitáre skills ako napríklad skills.sh alebo awesome-copilot
• Budujeme vlastnú bázu znovu-použiteľných skills a agentov. Nájdu sa medzi nimi
  rovnako generické, ako aj špecifické prípady použitia
  o Generické
  ▪ Design system guru skill pre celú firmu
  ▪ Agent generujúci Playwright testy
  o Špecifické
  ▪ Agent generujúci GraphQL mocky pre konkrétny biznis model
  ▪ Skill pre vyhodnocovanie bezpečnostných upozornení reportovaných Github Advanced Security
• Neustále sa snažíme zlepšovať kvalitu našich dát. Budovaním first-class dátovej platformy v DataBricks a prechodom od dokumentácie ku spec-driven developmentu. Za týmto účelom budujeme znalostné bázy pre agentov (.md files), no taktiež testujeme na niektorých projektoch využitie nástroja SpecKit

Hladina udržateľnosti

Skúšať nové veci je super, no časom niekto príde a spýta sa vás: “Aké výsledky ste mi dodali vďaka tomu, že som vám dal peniaze na všetky tie AI nástroje a iniciatívy?”. Vtedy sa buď začnete škrabkať na zátylku a pozerať do zeme alebo vytiahnete tvrdé dáta:

• Aktuálne sme schopní vďaka AI vyrábať o 50% viac pull-requestov (aj keď sme medzi povinné kontroly pridali aj review AI agentom)
• Rýchlosť riešenia úloh v JiRa nám stúpla o 45%
• Množstvo produkčných incidentov kleslo o 13% napriek väčšiemu počtu dodávaných zmien
• Množstvo generovaných testov vzrástlo o 136% vďaka vytvoreniu agentov a redefinovaniu úloh v SDLC procese. Drobné úlohy dokáže automatizovane otestovať vývojár s agentom a test inžinier sa môže sústrediť na tie komplexnejšie. Obaja sa zároveň stali architektmi a kontrolórmi výstupu AI agentov.

Level guru?

Dnes sa kadekto pasuje za “AI guru”, no my radšej ostávame pokorní a vedomí si cesty, ktorá je pred nami.

Čo však môžeme povedať s určitosťou je, že kľúčovú úlohu na tejto ceste bude zohrávať komunita, zdieľanie a vzájomná inšpirácia.

Len v priebehu posledných pár rokov sme prednášali na viacerých meetupoch alebo ich rovno (spolu)organizovali. Ich cieľom bolo ZDIEĽAŤ know-how a učiť sa od seba navzájom:

– Data Quality Meetup v Multitude
– AI in DEV vol. 1 v Slovenskej sporiteľni
– TechBand Tech Circle vol. 1
– GitHub Copilot Customization workshop v Multitude
– AI testing hackaton s Wopee v Multitude
– Ako AI mení naše firmy v ZA IT
– AI in DEV vol. 2 v Esete
– a mnohé ďalšie…

Slovensko je malé. IT komunita tiež. Tým, že si budeme v rámci nej pomáhať a inšpirovať sa, to všetci dotiahneme oveľa ďalej ako nezmyselným súperením a “strážením si toho svojho”. Ak sa to susedia nedozvedia od vás, o pár týždňov im to povie nejaký AI influencer.
Nijak to však nepomôže komunite ani vzťahom.

Aj preto sme už od roku 2023 hrdým partnerom konferencií CodeCon a každý rok sa snažíme prinášať komunite vedomosti, ktoré nadobúdame reálnou praxou s najnovšími technológiami v plnej produkčnej prevádzke regulovanej banky, s viac ako sto vývojármi, ktorá obsluhuje viac ako dvadsať európskych krajín svojimi produktami, podporovanými viac ako sedemsto mikroslužbami.

Inak tomu nebude ani tento rok a tešiť sa môžete na naše prednášky:
Tomáš Lauro – Ako škálovať CI/CD pre stovky aplikácií bez straty autonómie
Martin Šustek – Tooling v ére AI