AI a automatizácia
AI tam, kde je do čoho ju zapojiť.
Modely nepredávame. Pozrieme sa na prácu, ktorú už robíte — výskum, publikovanie, vyhodnocovanie dát — a automatizáciu vložíme tam, kde odoberie skutočný krok.
Na čo sa hodí a na čo nie
Modely bývajú užitočné pri ohraničených úlohách, ako je príprava textov, vyťahovanie údajov, klasifikácia, zhrnutie alebo generovanie kódu. Výstup aj tak potrebuje spôsob overenia primeraný tomu, čo by chyba spôsobila.
Preto kontrolný krok staviame priamo do postupu: niečo, čo človek prejde, zdroj, ktorý musí odpoveď odcitovať, alebo pravidlo, ktoré nahlas zlyhá. Práca, ktorá občasnú chybu modelu neunesie, potrebuje iný návrh a na takúto automatizáciu sa nemusí hodiť.
Štyri typy úloh
Úlohy, pri ktorých automatizácia býva užitočná.
Veda a výskum
Triedenie literatúry, štruktúrované vyťahovanie údajov zo štúdií a PDF, anotácia dátových súborov (datasetov) a postupy, ktorých výsledok sa dá pri opakovanom spustení systematicky overiť.
Web a CMS
Príprava textov s kontrolnými bránami, preklady, metadáta a alternatívne texty vo veľkom, interné vyhľadávanie a redakčné pomôcky, ktoré fungujú v CMS, ktorý už používate.
Vyhodnocovanie a analýza dát
Zjednotenie neporiadneho vstupu, klasifikácia, zosúladenie zdrojov, ktoré si protirečia, a príprava správy, ktorú potom človek podpíše.
Prepájanie postupov
Asistenti napojení na vaše vlastné nástroje, naplánované úlohy, integrácie cez API a prevádzka u vás tam, kde dáta nesmú opustiť budovu.
Vaše dáta, vaše pravidlá
Kvalita modelu je len jedno riziko. Návrh musí počítať aj s tým, kde sa dáta spracúvajú, kto sa k nim dostane, ako dlho sa záznamy uchovávajú a aké zmluvné podmienky platia.
Tieto rozhodnutia zapisujeme ešte pred implementáciou.
Pomenovaný poskytovateľ aj úroveň služby
Vybraný model, úroveň služby a príslušné podmienky pre dáta zapíšeme do projektu.
Posúdime prevádzku u vás
Tam, kde dáta musia zostať vo vašej infraštruktúre, posúdime nasadenie modelu s otvorenými váhami spolu s hardvérom a prevádzkovými nákladmi.
Uchovávanie je vedomé rozhodnutie
Zadania pre model (prompty), vstupy a výstupy uchovávame len tam, kde treba, s vopred dohodnutými pravidlami prístupu, začiernenia a mazania.
Ako je spolupráca postavená
- 01
Audit postupu
Za pevnú cenu. Pozrieme sa, ako práca naozaj prebieha, a zapíšeme, kde by automatizácia krok odobrala a kde by len pridala ďalší.
- 02
Prototyp za dva týždne
Jeden postup, od začiatku do konca, na vašich skutočných dátach. Toľko stačí, aby sa dalo povedať, či sa oplatí postaviť to poriadne.
- 03
Postavíme a odovzdáme
Zdokumentované, prevádzkovateľné u vás, vaše. Radšej by sme boli, keby ste nás potom nepotrebovali.
- 04
Paušál na dozor
Len na tie časti, ktoré dozor naozaj potrebujú — zmeny modelov, rast nákladov, zhoršenie kvality. Vypovedateľný.
Otázky, na ktorých záleží
Aké modely používate?
Model vyberáme podľa úlohy, obmedzení na dáta, potrebného kontextu, latencie a prevádzkových nákladov. Poskytovateľa aj úroveň služby pomenujeme v dokumentácii projektu.
Používajú sa naše dáta na trénovanie?
Podmienky poskytovateľov aj nastavenia účtu sa menia, preto pri vybranej službe overíme platné podmienky a zapíšeme ich skôr, než sa odošlú akékoľvek dáta. Ak externé spracovanie nie je prijateľné, posúdime návrh s prevádzkou u vás.
Dá sa to prevádzkovať u nás?
Áno, ak úlohu zvládne vhodný model s otvorenými váhami. Súčasťou rozhodnutia je hardvér, priepustnosť, údržba aj spôsob vyhodnocovania; prevádzka u vás nie je automaticky lacnejšia.
Ako zabránite tomu, aby si vymýšľal?
Žiadny návrh chybu modelu neodstráni. Obmedzujeme ju a odhaľujeme validovaným štruktúrovaným výstupom, vyhľadávaním v schválených zdrojoch, citáciami a ľudskou kontrolou tam, kde to dôsledok vyžaduje.
Koľko stojí mesačná prevádzka?
Prototyp zaznamená spotrebu na reprezentatívnych dátach. Projekt tak dostane prevádzkový odhad aj strop, ktorý sa dá po spustení sledovať.
Viete nám len vylepšiť chatbota?
Niekedy áno. Najprv overíme, či konverzačné rozhranie k úlohe vôbec sedí — vyhľadávanie, formulár alebo postup na pozadí môžu byť jednoduchšie a ľahšie overiteľné.
Začnite auditom.
Audit za pevnú cenu pomenuje kroky, ktoré sa oplatí otestovať, aj overenie, ktoré by každý z nich potreboval — ešte pred tým, než sa čokoľvek postaví.