Umelá inteligencia: ako sme sa za 70 rokov dostali k Claude

V polovici 60. rokov napísal Joseph Weizenbaum z MIT program ELIZA. Napodoboval psychoterapeuta, mal asi 420 riadkov kódu a v skutočnosti nerobil nič iné, než že hľadal v texte kľúčové slová a vracal ich späť ako otázku. Keď ste mu napísali, že ste smutní, spýtal sa, prečo ste smutní. Weizenbaumova sekretárka, ktorá mesiace sledovala, ako na programe pracuje, si s ním napriek tomu po pár vetách chcela písať osamote a poprosila ho, aby odišiel z miestnosti.

Tá príhoda je stará 60 rokov a vystihuje, prečo je okolo AI toľko nedorozumení. Ľudia vidia rozum všade, kde stroj odpovedá plynulými vetami, aj tam, kde žiadny nie je. Kto chce s Claude pracovať dobre, má preto vedieť, čo za tými vetami naozaj je. V tomto článku stručne prejdem, ako sa AI za 70 rokov vyvíjala, prečo dvakrát sklamala a čo sa zmenilo, že dnes funguje. A hlavne vysvetlím, čo jazykový model v skutočnosti robí. Je to úvod k sérii Claude od základov a na všetko ďalšie v nej nadväzuje.

Odkiaľ sa vzal pojem umelá inteligencia?

V roku 1950 položil britský matematik Alan Turing v článku pre časopis Mind otázku, či stroje môžu myslieť. Namiesto definície myslenia navrhol test: ak človek v písanom rozhovore nerozozná stroj od človeka, stroj obstál. Dnes ho poznáme ako Turingov test.

Samotný pojem artificial intelligence vymyslel John McCarthy. Použil ho spolu s troma kolegami v návrhu letného workshopu na Dartmouth College v roku 1956, kde sa stretli prví výskumníci odboru. Optimizmus bol obrovský: verili, že podstatnú časť problému vyriešia za jedno leto. Nevyriešili.

Prečo AI desaťročia sklamala?

Prvé systémy stáli na pravidlách, ktoré im ľudia ručne napísali. Ak platí toto, urob tamto. V úzkych úlohách to fungovalo prekvapivo dobre, v skutočnom svete nie. Svet má viac výnimiek, než sa dá napísať pravidiel, a jazyk obzvlášť.

Sľuby tak opakovane predbehli realitu a prišla takzvaná zima AI: prvá približne v 70. rokoch, druhá koncom 80. rokov. O tom, aká hlboká bola tá prvá, sa historici dodnes sporia, na druhej sa zhodnú. Vlády aj firmy prestali výskum financovať a slovo umelá inteligencia malo v laboratóriách zlý zvuk.

Aj slávne víťazstvá tých čias boli skôr hrubá sila než rozum. Počítač Deep Blue od IBM porazil v roku 1997 šachového majstra sveta Garryho Kasparova. Nemyslel ako človek, prepočítal milióny pozícií za sekundu. Mimo šachovnice nevedel nič.

Čo zmenilo strojové učenie?

Zlom neprišiel z lepších pravidiel, ale z toho, že sa ich výskumníci vzdali. Namiesto toho, aby stroju povedali, ako vyzerá mačka, mu ukázali milión obrázkov mačiek a nechali ho, nech si vzor nájde sám. Tomu sa hovorí strojové učenie a jeho výkonnej podobe s mnohými vrstvami umelých neurónov hlboké učenie.

Myšlienka bola stará, chýbali dve veci: dáta a výpočtový výkon. Internet dodal dáta, grafické karty z herného priemyslu výkon. V roku 2012 neurónová sieť AlexNet rozpoznávala obrázky v súťaži ImageNet o triedu lepšie než všetko predtým: mýlila sa v 15,3 % prípadov, druhé miesto v 26,2 %. V roku 2016 porazil program AlphaGo od Google DeepMind jedného z najlepších hráčov go Lee Sedola. Go má viac možných pozícií než šach a hrubou silou sa vyhrať nedá.

Čo priniesol rok 2017?

S jazykom mali neurónové siete dlho problém. Čítali text slovo po slove a kým sa dostali na koniec dlhej vety, začiatok im unikal. V roku 2017 vydali výskumníci z Google článok Attention Is All You Need s novou architektúrou, ktorú nazvali Transformer. Tá sa pozerá na celý text naraz a pri každom slove si všíma, ktoré iné slová sú preň dôležité.

Na tom stoja všetky dnešné jazykové modely. Písmeno T v skratke GPT znamená práve Transformer. Ukázalo sa, že čím väčší model a čím viac textu, tým lepšie výsledky, a firmy začali modely zväčšovať. OpenAI vydalo GPT-2 v roku 2019 a GPT-3 v máji 2020, so 175 miliardami parametrov.

Prečo bol ChatGPT taký zlom?

GPT-3 existoval dva roky predtým, než o ňom počula verejnosť. Pracovali s ním hlavne vývojári cez API. Zmena prišla 30. novembra 2022, keď OpenAI spustilo ChatGPT: ten istý typ modelu, ale dotrénovaný na rozhovor a schovaný za obyčajné okno na písanie. Za 5 dní mal milión používateľov a dnes ho podľa OpenAI používa vyše miliardy ľudí týždenne.

Neprišiel teda technologický zázrak zo dňa na deň. Prišlo rozhranie, s ktorým vedel pracovať každý. V marci 2023 nasledoval Claude od firmy Anthropic, ktorú v roku 2021 založili súrodenci Dario a Daniela Amodei s ďalšími bývalými ľuďmi z OpenAI. Kladie dôraz na bezpečnosť a na to, aby model pomáhal a zároveň neškodil.

Čo vlastne robí jazykový model?

Teraz to najdôležitejšie. Jazykový model ako Claude robí v jadre jedinú vec: predpovedá, aký kúsok textu má nasledovať. Keď dostane vetu „Hlavné mesto Slovenska je“, vie, že najpravdepodobnejšie pokračovanie je „Bratislava“. Odpoveď skladá kúsok po kúsku, každý nový kúsok pridá k textu a predpovedá ďalší. Tým kúskom sa hovorí token a je o nich samostatný diel série. Aj slovník Anthropic píše, že model je predtrénovaný na to, aby predpovedal ďalšie slovo podľa predchádzajúceho textu.

Znie to jednoducho, ale aby model predpovedal dobre, musel sa naučiť obrovské množstvo vecí. Vzniká v dvoch krokoch:

Predtrénovanie: model číta obrovské množstvo textu z kníh, webu a kódu a učí sa predpovedať ďalší token. Pri tom pochytí gramatiku, fakty aj spôsob uvažovania.
Dolaďovanie: potom ho ľudia a ďalšie metódy učia byť užitočným asistentom. Odpovedať na otázku, držať sa zadania, priznať, keď niečo nevie, a nepomáhať so škodlivými vecami.

Z toho vyplývajú dve veci, ktoré by mal poznať každý, kto s Claude pracuje. Prvá: model skladá vierohodné pokračovanie, nie overenú pravdu. Keď mu chýba informácia, vytvorí niečo, čo znie presvedčivo. Tomu sa hovorí halucinácia, Anthropic priznáva, že ju úplne neodstránia žiadne techniky, a je to dôvod, prečo si dôležité čísla a fakty treba overiť.

Druhá: kvalita odpovede závisí od toho, čo mu dáte. Model nevie nič o vašom klientovi, kampani ani o tom, čo ste robili včera, kým mu to nepoviete. Čím presnejšie zadanie a viac kontextu, tým presnejšie pokračovanie.

Kde sme dnes?

Za necelé štyri roky od ChatGPT sa z okna na písanie stal pracovný nástroj. Dnešné modely čítajú dokumenty, obrázky aj tabuľky, hľadajú na webe, pracujú so súbormi a spúšťajú nástroje. Claude Code, ktorý Anthropic sprístupnil v roku 2025, vie samostatne napísať a upraviť celú aplikáciu.

Princíp pod tým sa však nezmenil. Aj model, ktorý sám pripraví report, stále predpovedá ďalší token, len má k dispozícii viac nástrojov a dlhšiu pamäť jedného rozhovoru. A ELIZA nás stále učí to isté: plynulá veta ešte neznamená, že za ňou je pravda.

Čo si z toho odniesť

AI nie je nová a nie je ani mágia. Je to 70 rokov výskumu, ktorý dvakrát narazil a potom sa vydal inou cestou: od ručne písaných pravidiel k modelom, ktoré sa učia z dát. Dnešné jazykové modely sú v tom najdlhšia a najúspešnejšia kapitola.

Ak si máte zapamätať jednu vec, nech je to táto: Claude predpovedá ďalší token. Z toho vyplýva, prečo mu treba dať kontext, prečo si treba overovať fakty aj prečo je dôležité, ako veľa toho do rozhovoru vložíte. V prvom diele série vysvetľujem, v akých troch podobách Claude dnes existuje, a v ďalšom, čo je token a prečo sa v ňom meria všetko.

Otestujte sa. Trúfate si?

0/4 · 0 %