Zašto je ChatGPT zaglupio?! Jednom davno, ne tako davno, ChatGPT je bio priča o cijelom gradu. Njegov smisao za duboke, smislene i ponekad urnebesno čudne razgovore učinio ga je miljenikom svijeta tehnologije. Ali kao i kod svih zvijezda u brzom usponu, ako postoji pad, on može biti brz. Nedavni podaci daju sliku pada prometa na web-mjestu i pada preuzimanja aplikacija. Jednom slavljen AI brbljanje sada se nalazi usred PR dileme, dok korisnici na društvenim mrežama izražavaju svoje frustracije njegovim "lijenim" odgovorima i povećanim brojem pogrešaka.

Naime, prije je jednostavne zadatke izvršavao praktički odmah i bez oklijevanja, ali sada ih ne može učiniti ili ih radi tek nakon što nekoliko puta ponovi naredbe. Ako je prije mogao slijediti složene, duže naredbe, sada ne može niti osnovne.

Zašto ChatGPT više ne može odgovoriti na najjednostavnija pitanja koja je nedavno u potpunosti savladao?

ChatGPT je bio prevelika promjena za postojeći svijet. Ako je radilo kao što je izvorno radilo, pa čak i poboljšana, to bi značilo izumiranje mnogih profesija. Milijuni radnih mjesta diljem svijeta bili bi ugroženi. Naravno, ChatGPT nije postao glup. Ali postala je ograničena tako da nije opasna i ova se tehnologija ne može zlorabiti, čak ni za stvaranje lažnih vijesti i drugih kršenja autorskih prava. Mnogi autori i pisci koji su ga koristili za stvaranje novog sadržaja vjeruju da je ChatGPT mnogo lošiji od izvornog modela.

OpenAI, ponosni roditelj ChatGPT-a, brzo je stao u obranu svoje kreacije. Odlučno demantiraju bilo kakvo namjerno "slabljenje" svoje zvijezde. Umjesto toga, sugeriraju da bi uočeno smanjenje izvedbe ChatGPT-a moglo biti posljedica njegove povećane upotrebe, što razotkriva njegova inherentna ograničenja.

Procijenili smo #ChatGPT'ovo ponašanje tijekom vremena i pronašao značajne razlike u njegovim odgovorima na *ista pitanja* između lipanjskih verzija GPT4 i GPT3.5 i verzija iz ožujka. Novije verzije postale su lošije na nekim zadacima. s Lingjiao Chenom @matei_zaharia https://t.co/TGeN4T18Fd https://t.co/36mjnejERy pic.twitter.com/FEiqrUVbg6

— James Zou (@james_y_zou) 19. srpnja 2023

Radnja se zgušnjava naznakama o strateški potezi OpenAI-ja. Postoje spekulacije da umjesto oslanjanja na jedan divovski GPT-4 model, OpenAI bi mogao diverzificirati, stvarajući niz manjih, specijaliziranih GPT-4 modela. Ovaj pristup 'mješavine stručnjaka' mogao bi promijeniti igru, nudeći prednosti velikog modela bez povezanih računalnih troškova. Zašto je ChatGPT zaglupio?!

Što je budućnost? OpenAI će razviti proizvode specijalizirane za niše i ponuditi ih profesionalnim organizacijama i onima koji su spremni skupo platiti za ekskluzivno znanje i razvojnu pomoć. U svijetu kojim upravljaju sile nije mudro sve učiniti dostupnim svima. Da je ChatGPT ograničeniji, dokazuju razni matematički testovi koje izvode različiti autori. Ako je nešto prije radilo, a sada ne radi, nešto nije u redu s modelom.

Dok se trenutna putanja ChatGPT-a može činiti pomalo klimavom, vrijedi zapamtiti da svako tehnološko čudo, poput ljudi, ima svoje uspone i padove. Nadajmo se da je ovo samo privremena točka na inače blještavom putu ChatGPT-a i da će se uskoro vratiti da nas počasti svojom AI magijom.

Istraživači Stanforda i Berkleya zabrinuti su zbog pada IQ-a ChatGPT-a

U novoj studiji koja još čeka recenziju, znanstvenici s prestižnih sveučilišta Stanford i Berkeley otkrili su da je popularni OpenAI jezični model GPT izgubio nešto od svoje oštrine. Njihova otkrića pokazuju da su se unutar nekoliko mjeseci ponašanje i točnost odgovora modela GPT-3.5 i GPT-4 značajno promijenili. Posebno je zabrinulo otkriće da je u ožujku 2023. GPT-4 lako identificirao proste brojeve s točnošću od 97,6%, ali do lipnja 2023. ta je točnost pala na samo 2,4%. Ovi su nalazi u skladu s pritužbama brojnih korisnika koji su tijekom prošlog mjeseca primijetili da ChatGPT postaje sve "gluplji". Ipak, Peter Welinder, potpredsjednik OpenAI-ja za proizvode, brzo je zanijekao da je smanjenje performansi modela bilo namjerno. Umjesto toga, tvrdio je da je svaka nova verzija modela pametnija od prethodne i da sve promjene u korisničkom iskustvu mogu biti posljedica povećane upotrebe. Međutim, istraživanja sa Stanforda i Berkeleyja dovode u pitanje ovu tvrdnju, pokazujući pad točnosti i sposobnosti modela tijekom vremena. Iako istraživači nisu naveli konkretne razloge za ovaj pad, naglasili su da je važno razumjeti hoće li ažuriranja modela koja su namijenjena poboljšanju određenih značajki zapravo štetiti njegovim mogućnostima u drugim područjima. Sve ovo dovodi u pitanje tvrdnje OpenAI-ja o stalnom poboljšanju svojih modela. Istovremeno, postoji sumnja da OpenAI to ne radi namjerno.

Zašto bi OpenAI ograničavao ChatGPT?!

1. Sigurnosni problemi: Što je AI jača, to je veća mogućnost zlouporabe. Ograničavanje mogućnosti ChatGPT-a moglo bi biti obrambeni mehanizam protiv potencijalnih zlouporaba kao što su dezinformacije, hakiranje ili druge zlonamjerne radnje.
2. Zaštita poslovnog modela: OpenAI bi možda želio ograničiti besplatnu verziju ChatGPT-a kako bi potaknuo korisnike na kupnju plaćenih verzija ili usluga koje nude više značajki i mogućnosti.
3. Etika i odgovornost: S povećanom moći dolazi i veća odgovornost. OpenAI bi mogao ograničiti ChatGPT kako bi ga spriječio da nenamjerno širi dezinformacije ili promiče štetne ideje.
4. Regulatorni tlak: Vlade i regulatorna tijela diljem svijeta sve su svjesnija moći i potencijalnih rizika umjetne inteligencije. OpenAI bi mogao ograničiti ChatGPT kao odgovor na pritisak ili zahtjeve regulatora.
5. Održavanje kvalitete: Uz povećanu upotrebu i opterećenje sustava, moglo bi doći do smanjenja kvalitete odgovora. Prigušivanje kapaciteta moglo bi biti sredstvo kojim se osigurava da ChatGPT nastavi pružati kvalitetne i pouzdane odgovore. Oziorma da se kapaciteti pristupa usluzi održavaju.
6. Tehnička ograničenja: Svaki sustav ima svoja ograničenja. Možda je OpenAI shvatio da je trenutna infrastruktura dosegla svoje granice i odlučio ograničiti performanse dok ne pronađe rješenje.
7. Zaštita intelektualnog vlasništva: OpenAI će možda htjeti ograničiti pristup najnaprednijim značajkama ChatGPT-a kako bi zaštitio svoje intelektualno vlasništvo i spriječio potencijalno kopiranje ili zlouporabu od strane konkurenata.

 

Najvjerojatniji scenarij za ograničavanje ChatGPT-a? Pa, zamislite kombinaciju nekoliko čimbenika koji se udružuju u neku vrstu "savršene oluje" za našeg voljenog robota. Prvo, imamo OpenAI, koji je poput brižne majke koja želi da joj dijete bude etično i odgovorno. Ne želi da njezina "mala" umjetna inteligencija širi lažne informacije ili da se upliće u bilo kakve intrige. Zatim postoji regulatorni pritisak. Zamislite vlade koje su poput onih koje kontroliraju učitelje u školskom dvorištu, uvijek gledajući i čekajući da netko pogriješi. OpenAI je mogao predvidjeti da će ovaj "učitelj" uskoro početi mahati prstom i odlučiti ostati korak ispred njega. I naravno, ne smijemo zaboraviti poslovni model. OpenAI, iako neprofitan, također ima račune za plaćanje. Možda žele da se više korisnika odluči za plaćene verzije umjesto da se oslanjaju na besplatnu verziju. I na kraju, tehnička ograničenja. Zamislite ChatGPT kao sportaša koji je možda pretrenirao i treba mu malo odmora kako bi izbjegao "potezanje mišića". Zajedno, sve ovo čini zanimljivu mješavinu razloga zašto bi naš dragi ChatGPT mogao postati malo više... ograničeniji. Ali hej, svi imamo svoje dane, zar ne?

Ali svejedno, zašto je ChatGPT postao glup?!