Veliki jezički modeli (LLM) mogu zvučati uvjerljivo čak i kada nisu u pravu. To je njihova snaga, ali i rizik, jer formalna koherentnost ne podrazumijeva i materijalnu provjerljivost. Na primjer, LLM može izraditi poslovni plan koji zanemaruje lokalne propise, pravni argument koji previđa ključne izuzetke ili plan treninga koji ne uzima u obzir istoriju povreda i sposobnost oporavka. Suština nije u tome da li su LLM-ovi korisni – jesu. Suština je u tome kako ih koristimo.
„O ‘carstvu slobode’
Mi smo u stanju da mislimo o mnogo, mnogo više stvari nego što smo u stanju da ih činimo ili doživljavamo — to jest naše mišljenje je površno i zadovoljava se površinom; čak ni ne primjećuje da je to površina. Da se naš intelekt razvijao strogo po mjeri naše snage i našeg vježbanja te snage, vrhovno načelo našeg mišljenja bilo bi da mi možemo pojmiti samo ono što možemo činiti — ako poimanje uopšte i postoji. Žednom čovjeku nedostaje vode, ali njegove mu misli neprekidno donose vodu pred oči, kao da ništa lakše nije nabaviti — intelekt, površan i lako zadovoljen, ne može da shvati istinsku, mučnu potrebu, i pri tom se osjeća nadmoćno: on je ponosan što može da učini više, što trči brže, što je začas gotovo na cilju — i tako carstvo misli, u poređenju sa carstvom činjenja, htijenja ili doživljavanja, izgleda kao carstvo slobode; dok ono, kao što smo gore rekli, jeste samo carstvo površine i zadovoljnosti.“
Izvor: Niče, Fridrih. Zora: Misli o moralnim predrasudama. Beograd: Dereta, 2011. Str. 87–88.
U ovom odlomku o „carstvu slobode“, mišljenje je prikazano kao gotovo beskonačan prostor. Granica je naša mašta, a ne stvarnost. To djeluje oslobađajuće, ali istovremeno ukazuje na praktičan problem: nije svaka koherentna ideja i ostvariva. Mašta možda ima neograničen prostor za igru, ali praktična primjena generisanih ideja je ograničena. Bez stvarnosti kao ograničenja, ideje mogu biti nerealne. Jednostavno, mašta se igra, projektuje mogućnosti bez troška, bez otpora stvarnosti, bez posljedica.
Ničeova dijagnoza postaje posebno relevantna kada uvedemo razliku između formalne valjanosti i empirijske utemeljenosti. Formalna logika procjenjuje ispravnost po obliku rezonovanja: da li zaključak logički slijedi iz premisa, nezavisno od njihove istinitosti. Materijalna (sadržajna) logika procjenjuje ispravnost prema istinitosti i opravdanosti sadržaja — da li su premise istinite, pojmovi adekvatni i odnosi među tvrdnjama relevantni i provjerljivi. U „carstvu mišljenja“, lako je da formalna urednost zamijeni materijalnu tačnost — argument može biti savršeno koherentan, a ipak empirijski neutemeljen i praktično neprimjenjiv.
LLM je sistem koji uči pravilnosti iz velike količine teksta i zatim generiše vjerovatne nastavke u datom kontekstu. Njegova „inteligencija“ je prvenstveno jezička: sposobnost da proizvodi koherentne definicije, argumente i narative. To ga prirodno smješta u „carstvo mišljenja“, odnosno domen u kojem se može mnogo toga reći i kombinovati bez neposrednog suočavanja sa stvarnošću. Zbog načina na koji funkcioniše, LLM često proizvodi iskaze koji djeluju formalno „dobro“ — tekst teče, premise i zaključci izgledaju povezano, analogije su uvjerljive, a stil ostaje dosljedan. Drugim riječima, model je jak u formalnoj koherenciji i retoričkoj tečnosti. Može simulirati strukture tipa „ako… onda…“, graditi objašnjenja i nizove uzroka i posljedica. Ipak, bez dodatnih mehanizama provjere, LLM ne nudi nikakvu garanciju materijalne ispravnosti. Nema iskustvo, ne provjerava činjenice u stvarnosti i ne osjeća otpor prakse. Zbog toga može proizvesti argument koji je formalno uvjerljiv, a materijalno pogrešan. Takođe, može popuniti praznine u izvorima izmišljotinama koje zvuče uvjerljivo, koje zatim mogu poslužiti kao premise za dalju argumentaciju — čineći grešku težom za otkrivanje.
Primjer žednog čovjeka u pomenutom odlomku vrlo dobro oslikava ovaj problem. Osobi nedostaje voda, ali joj misli stalno prizivaju vodu pred oči „kao da ništa nije lakše nego doći do nje“. Međutim, postoji razlika između predstave i ostvarenja. Formalno, ideja „voda je dostupna“ može se uklopiti u uredan niz zaključivanja: „Ako postoji izvor, onda je moguće doći do vode; postoji izvor; dakle, moguće je doći do vode.“ Ali materijalna ispravnost traži ono što formalna struktura može prikriti: gdje je izvor, koliko je daleko, da li postoji prepreka, koliko je snage potrebno, da li je voda bezbjedna i koje su alternative. „Carstvo mišljenja“ može preskočiti te materijalne uslove i ostati formalno uredno; dok „područje djelovanja“ to ne može, jer uzima u obzir izvodljivost u stvarnom svijetu.
Iako se intelekt može osjećati nadmoćnim, jer može „učiniti više“, „trčati brže“ i „biti gotovo na cilju“ u trenu, u suštini, on miješa uredan zaključak u jeziku sa ishodom u stvarnosti. LLM može, za nekoliko sekundi, izložiti plan treninga, pravni argument ili strategiju rasta preduzeća. Formalno, sve može izgledati riješeno. Ali materijalna ispravnost se ne završava formulacijama. Ona zahtijeva provjere, podatke, definicije, izuzetke, procjenu rizika, troškove implementacije i dokaze da zaključak važi pod stvarnim ograničenjima. Na kraju, primjena nekog koncepta zahtijeva praktičnu akciju — promjenu u stvarnosti izazvanu implementacijom tih koncepata.
I tu se otvara produktivan odnos između LLM-ova i ljudske racionalnosti. Modeli mogu proširiti prostor mašte, ubrzati potragu za mogućim rješenjima i artikulisati opcije koje inače ne bi bile formulisane. Ali da bi to proširenje izbjeglo površnost, mora biti zasnovano na provjerljivosti: u eksperimentu, u provjeri izvora, u disciplini kriterijuma, u ponavljanju postupaka i u suočavanju sa greškom. Drugim riječima, LLM može biti instrument „carstva mišljenja“, ali ne smije postati njegova metafizička zamjena za djelovanje. A djelovanje podrazumijeva uzimanje u obzir stvarnih ograničenja. Granica mišljenja o praktičnim i izvodljivim rješenjima za stvarne probleme ne leži samo u onome što možemo zamisliti, već i u onome što možemo potvrditi, podnijeti i sprovesti. Tako „carstvo slobode“ prestaje biti obmana i postaje radna hipoteza — otvorena, ali disciplinovana stvarnošću.
Tretirajte LLM-ove kao motore za generisanje hipoteza i struktura, a ne kao garanciju istine. Krećite se brzo kroz prostor mogućnosti — ali svaku opciju provjerite u odnosu na podatke, ograničenja i praksu. Formalna logika je neophodna da bi se obezbijedilo valjano rezonovanje i izbjegle očigledne greške poput nelogičnih zaključaka ili pogrešnih misaonih skokova. Materijalna ispravnost je jednako neophodna kako bi se osigurala istinitost i upotrebljivost — da se premise provjere, pojmovi jasno definišu i da se obezbijedi relevantnost, u cilju stvaranja zdravog, praktično primjenjivog plana djelovanja. U idealnom slučaju, LLM služi za generisanje hipoteza, opcija i struktura; dok ljudski sud, eksperimenti i institucionalne provjere obezbjeđuju validaciju.
Na taj način se „carstvo slobode“ mišljenja transformiše iz moguće obmane u uređenu metodološku prednost. Ono omogućava brzo kretanje kroz mogućnosti, ali se svaka od njih mora mjeriti prema praksi — prema onome što se zaista može učiniti.
Prevedeno u praksu:
- LLM-ovi generišu opcije; ljudi provjeravaju tvrdnje.
- koherentnost nije istina; valjanost nije ispravnost.
- brzina u generisanju ideja mora biti praćena rigoroznom provjerom.
U praksi to znači: zahtijevajte izvore, testirajte tvrdnje na malim prototipovima i tretirajte svaku ključnu premisu kao hipotezu dok se ne provjeri.
Mišljenje je moćno kada je formalno uređeno i materijalno odgovorno. Međutim, kada se zadovoljava površinom — bilo u čovjeku, bilo u LLM-u — postaje „područje površine i zadovoljenja“. Stvarnost ima dubinu. Kao ledeni brijeg, veći dio njegove mase nalazi se ispod površine.
Uobičajen prigovor jeste da ovakav pristup ograničava kreativnost. Neki će reći da su istorijski proboji ostvareni kada su izuzetni pojedinci „zamislili nemoguće“. Pa, ne baš. Mnogi proboji su izgledali nemoguće zato što metoda nije bila poznata, a ne zato što je ishod bio u suprotnosti sa stvarnošću.
Mnogo toga je već otkriveno, ali još više nas tek čeka. Kako bi rekao Kalvin (Bil Voterson, Kalvin i Hobs): „Hajde da istražujemo!“