Zakaj je ChatGPT postal neumen?! Nekoč, ne tako dolgo nazaj, je bil ChatGPT pogovor mesta. Njegova sposobnost za poglobljene, smiselne in včasih smešno nenavadne pogovore ga je naredila za ljubljenca tehnološkega sveta. Toda kot pri vseh hitro vzpenjajočih se zvezdah, če pride do padca, je lahko hiter. Nedavni podatki prikazujejo sliko upadanja prometa na spletnem mestu in upada prenosov aplikacij. Nekoč slavljeni AI klepetalnik se zdaj znajde sredi PR zagate, saj uporabniki na družbenih omrežjih izražajo svoje frustracije glede njegovih “lenih” odgovorov in povečane napake.

Resnično, nekoč je izpolnil preproste naloge praktično takoj in brez pomisleka, zdaj pa jih ne zna izvesti ali pa jih izvede šele po večkratnih ponovitvah ukazov. Če je nekoč znal slediti kompleksnim, daljšim ukazom, pa zdaj tem ukazom ne sledi niti v osnovah.

Zakaj ChatGPT ne zmore več odgovarjati na najbolj preprosta vprašanja, ki jih je nedavno popolnoma obvladal?

ChatGPT je za obstoječi svet pomenil preveliko spremembo. Če bi deloval tako, kot je prvotno deloval, in se celo izboljševal, bi to pomenilo izumrtje številnih poklicev. Milijoni služb po vsem svetu bi bili ogroženi. Seveda ChatGPT ni postal neumen. Toda postal je omejen, tako da ni nevaren in te tehnologije ni mogoče zlorabiti, tudi za ustvarjanje napačnih novic in drugih kršitev avtorskih pravic. Mnogi avtorji in pisci, ki so si z njim pomagali ustvarjati nove vsebine, menijo, da je ChatGPT veliko slabši kot prvotni model.

OpenAI, ponosni starš ChatGPT, je bil hiter pri obrambi svojega stvarjenja. Odločno zanikajo vsako namerno “oslabitev” svoje zvezde. Namesto tega predlagajo, da bi lahko zaznano zmanjšanje zmogljivosti ChatGPT morda bilo posledica njegove povečane uporabe, ki izpostavlja njegove inherentne omejitve.

We evaluated #ChatGPT's behavior over time and found substantial diffs in its responses to the *same questions* between the June version of GPT4 and GPT3.5 and the March versions. The newer versions got worse on some tasks. w/ Lingjiao Chen @matei_zaharia https://t.co/TGeN4T18Fd https://t.co/36mjnejERy pic.twitter.com/FEiqrUVbg6

— James Zou (@james_y_zou) July 19, 2023

Zaplet se zgosti z namigovanji o strateških premikih OpenAI. Obstajajo ugibanja, da namesto zanašanja na en velikanski model GPT-4 OpenAI morda diverzificira, ustvarja serijo manjših, specializiranih modelov GPT-4. Ta pristop ‘Mixture of Experts’ bi lahko bil prelomen, saj bi ponujal koristi velikega modela brez povezanih računalniških stroškov. Zakaj je ChatGPT postal neumen?!

Kakšna je prihodnost? OpenAI bo razvijal produkte, specializirane za niše, in jih ponujal profesionalnim organizacijam ter tistim, ki so pripravljeni plačati veliko za ekskluzivno znanje in pomoč pri razvoju. V svetu, ki je pod nadzorom sil, ni pametno vsem dati vsega na razpolago. To, da je ChatGPT bolj omejen, dokazujejo različni matematični testi, ki jih izvajajo različni avtorji. Če je nekaj prej delovalo, zdaj pa ne, z modelom nekaj ni v redu.

Čeprav se trenutna pot ChatGPT morda zdi nekoliko nestabilna, je vredno spomniti, da ima vsak tehnološki čudež, tako kot ljudje, svoje vzpone in padce. Upajmo, da je to le začasna težava v sicer bleščeči poti ChatGPT in da se bo kmalu vrnil, da nas bo razveselil s svojo AI magijo.

Raziskovalci Stanford & Berkley zaskrbljeni, zaradai upada IQ ChatGPT

V sveži študiji, ki še čaka na pregled strokovnjakov, so znanstveniki iz prestižnih univerz Stanford in Berkeley razkrili, da se zdi, da je priljubljeni jezikovni model OpenAI GPT izgubil nekaj svoje ostrine. Njihove ugotovitve kažejo, da sta se v nekaj mesecih obnašanje in natančnost odgovorov modelov GPT-3.5 in GPT-4 opazno spremenila. Še posebej zaskrbljujoče je bilo odkritje, da je GPT-4 marca 2023 z lahkoto identificiral praštevila z natančnostjo 97,6%, do junija 2023 pa je ta natančnost strmoglavila na zgolj 2,4%. Te ugotovitve so v skladu s pritožbami številnih uporabnikov, ki so v zadnjem mesecu opazili, da se zdi, da ChatGPT postaja bolj “neumen”. Kljub temu je Peter Welinder, podpredsednik OpenAI za izdelke, hitro zanikal, da bi bilo zmanjšanje zmogljivosti modela namerno. Namesto tega je trdil, da je vsaka nova različica modela pametnejša od prejšnje in da so morebitne spremembe v uporabniški izkušnji morda posledica povečane uporabe. Vendar pa raziskava iz Stanforda in Berkeleyja postavlja pod vprašaj to trditev, saj kaže na zmanjšanje natančnosti in sposobnosti modela skozi čas. Medtem ko raziskovalci niso navedli konkretnih razlogov za to “drsenje” navzdol, so poudarili, da je pomembno razumeti, ali posodobitve modela, ki so namenjene izboljšanju določenih lastnosti, dejansko škodujejo njegovim sposobnostim na drugih področjih. Vse to postavlja pod vprašaj OpenAIjeve trditve o nenehnem izboljševanju svojih modelov. Hkrati pa se vzpostavlja dvom, da to OpenAI ne počne namerno.

Zakaj bi lahko OpenAI omejeval ChatGPT?!

1. Varnostne skrbi: Močnejši kot je AI, večja je možnost zlorabe. Omejevanje zmogljivosti ChatGPT bi lahko bilo obrambni mehanizem proti potencialnim zlorabam, kot so širjenje dezinformacij, hekerski napadi ali druga škodljiva dejanja.
2. Zaščita poslovnega modela: OpenAI bi lahko želel omejiti brezplačno različico ChatGPT, da bi spodbudil uporabnike k nakupu plačljivih različic ali storitev, ki ponujajo več funkcij in zmogljivosti.
3. Etika in odgovornost: S povečano močjo prihaja tudi večja odgovornost. OpenAI bi lahko omejil ChatGPT, da bi preprečil nenamerno širjenje napačnih informacij ali spodbujanje škodljivih idej.
4. Regulativni pritisk: Vlade in regulativni organi po vsem svetu se vse bolj zavedajo moči in potencialnih tveganj AI. OpenAI bi lahko omejil ChatGPT kot odziv na pritiske ali zahteve s strani regulatorjev.
5. Ohranjanje kvalitete: Z večjo uporabo in obremenitvijo sistema bi lahko prišlo do zmanjšanja kakovosti odgovorov. Omejevanje zmogljivosti bi lahko bilo sredstvo za zagotavljanje, da ChatGPT še naprej zagotavlja kakovostne in zanesljive odgovore. Oziorma, da se ohranjajo kapacitete dostopa do storitve.
6. Tehnične omejitve: Vsak sistem ima svoje omejitve. Morda so pri OpenAI ugotovili, da je trenutna infrastruktura dosegla svoje meje in so se odločili za omejitev zmogljivosti, dokler ne najdejo rešitve.
7. Zaščita intelektualne lastnine: OpenAI bi lahko želel omejiti dostop do najnaprednejših funkcij ChatGPT, da bi zaščitil svojo intelektualno lastnino in preprečil morebitno kopiranje ali zlorabo s strani konkurence.

 

Najbolj verjeten scenarij za omejevanje ChatGPT? No, predstavljajte si kombinacijo več dejavnikov, ki se združijo v nekakšno “popolno nevihto” za našega ljubljenega robota. Prvič, imamo OpenAI, ki je kot skrbna mama, ki želi, da je njen otrok etičen in odgovoren. Ne želi, da bi njen “mali” AI širil napačne informacije ali se zapletel v kakšne spletke. Potem je tu regulativni pritisk. Predstavljajte si vlade, ki so kot tisti nadzorni učitelji na šolskem dvorišču, ki vedno opazujejo in čakajo, da nekdo naredi napako. OpenAI bi lahko predvidel, da bo ta “učitelj” kmalu začel mahati s prstom in se odločil biti korak pred njim. In seveda, ne smemo pozabiti na poslovni model. OpenAI, čeprav neprofiten, ima tudi račune za plačilo. Morda želijo, da bi se več uporabnikov odločilo za plačljive različice, namesto da bi se zanašali na brezplačno različico. In nazadnje, tehnične omejitve. Predstavljajte si ChatGPT kot atleta, ki je morda preveč treniral in potrebuje malo počitka, da ne bi “potegnil mišice”. Skupaj vse to ustvarja zanimivo mešanico razlogov, zakaj bi naš dragi ChatGPT morda postal malo bolj… omejen. Ampak hej, vsi imamo svoje dneve, kajne?

Ampak vseeno, zakaj je ChatGPT postal neumen?!