U zadnje vrijeme sve češće se provlači teza da bi umjetna inteligencija mogla postati problem u trenutku kada počne učiti na vlastitim sadržajima. Na prvu, to zvuči logično: sustav koji se zatvara u sebe, gubi kontakt sa stvarnošću i počinje vrtjeti iste obrasce. No, nije li to sve, de facto, već viđeno I kod čovjeka.
Ali tu zapravo promašujemo bit. Ne zato što taj problem ne postoji, nego zato što nije ključan. Ključan problem nije u tome kako uči AI, nego u tome kako uče ljudi odnosno, kako sve manje uče.
Ljudi ne uče iz informacija onako kako volimo misliti. Uče iz situacija u kojima ih stvarnost „ispravi”. Tek kada pretpostavka padne, kada odluka proizvede posljedicu, dolazi do korekcije. Bez toga nema stvarnog učenja, nego samo interpretacija koja zvuči uvjerljivo dok je ne provjerimo.
AI funkcionira drugačije. On ne zna što je pogreška u smislu stvarnog ishoda. Ne zna što znači donijeti lošu odluku i snositi posljedicu. On prepoznaje obrasce i računa vjerojatnosti. Drugim riječima, optimizira prema onome što se najčešće pojavljuje, a ne prema onome što je nužno točno.
Kada takav sustav počne učiti na vlastitim ishodima odnosno rješenjima, ne dolazi do raspada, nego do nečeg punoopasnijeg jer se gubi razlika i nestaju odstupanja. Sve se polako „poravnava” prema prosjeku. Rezultat je sadržaj koji ima smisla, koji je uredan i logičan, ali koji rijetko donosi nešto novo ili stvarno vrijedno.
No ni to još nije pravi problem, problem nastaje u trenutku kada ljudi počnu raditi isto.
Kada prestanu provjeravati ono što dobiju. Kada prestanu dovoditi u pitanje zaključke koji zvuče smisleno ili logično. Kada prestanu testirati svoje ideje u stvarnom kontekstu, odnosno okruženju.
Tada se gubi ono što je do sada držalo stvari pod kontrolom, a to je kontakt sa stvarnošću. Ili realnošću.
U tom trenutku nastaje zatvoreni krug. AI generira sadržaj, ljudi ga koriste bez stvarne provjere, taj sadržaj ulazi natrag u sustav i dodatno učvršćuje postojeće obrasce. Nema velikih pogrešaka koje bi sve razotkrile. Nema dramatičnih koraka. Sve funkcionira, ali na razini koja ne stvara razliku.
Organizacije u takvom sustavu ne propadaju naglo. One polako postaju prosječne.
A prosjek je najopasnija stvar koju možemo imati. Ne zato što je loš, nego zato što izgleda dovoljno dobro da ga nitko ne dovodi u pitanje. Odluke su razumne, procesi imaju smisla, sve djeluje stabilno, ali nema pomaka, nema diferencijacije i nema stvarne konkurentske prednosti.
U svijetu u kojem svi imaju pristup istim alatima i istim informacijama, razlika više ne dolazi iz tehnologije. Dolazi iz toga kako ljudi koriste ono što imaju. Točnije, iz toga znaju li prepoznati kada nešto što zvuči uvjerljivo zapravo nije dovoljno dobro.
Zato pitanje nije uči li AI na AI. To je tehnički detalj. Pitanje je ostaje li čovjek korektiv ili se i sam počinje ponašati kao sustav koji samo reproducira ono što mu je ponuđeno.
U trenutku kada se to dogodi, prestaje učenje u pravom smislu riječi. Ostaje samo ponavljanje. A tamo gdje se samo ponavlja, tamo se ne stvara vrijednost.
