Prečo sa ChatGPT stal nemým?! Kedysi, nie je to tak dávno, sa v meste hovorilo o ChatGPT. Jeho talent na hlboké, zmysluplné a niekedy aj vtipne zvláštne rozhovory z neho urobili miláčika technologického sveta. Ale ako u všetkých rýchlo rastúcich hviezd, ak dôjde k pádu, môže byť rýchly. Nedávne údaje vykresľujú obraz klesajúcej návštevnosti webových stránok a klesajúceho počtu stiahnutí aplikácií. Raz oslavovaný AI chatovanie teraz sa ocitá uprostred ťažkej situácie v oblasti PR, keď používatelia na sociálnych sieťach vyjadrujú svoju frustráciu z jeho „lenivých“ odpovedí a zvýšených chýb.

V skutočnosti jednoduché úlohy plnil prakticky okamžite a bez zaváhania, no teraz ich už nezvláda alebo ich robí až po niekoľkonásobnom opakovaní príkazov. Ak predtým vedel plniť zložité, dlhšie povely, teraz nedokáže dodržiavať ani tie základné.

Prečo už ChatGPT nedokáže odpovedať na najjednoduchšie otázky, ktoré nedávno úplne zvládol?

ChatGPT bola príliš veľká zmena pre existujúci svet. Ak by to fungovalo ako pôvodne, a dokonca sa zlepšil, znamenalo by to zánik mnohých profesií. Milióny pracovných miest na celom svete by boli ohrozené. Samozrejme, ChatGPT sa nestal hlúpym. Stal sa však obmedzeným, aby nebol nebezpečný a túto technológiu nebolo možné zneužiť, dokonca ani na vytváranie falošných správ a iné porušovanie autorských práv. Mnohí autori a spisovatelia, ktorí ho použili na vytvorenie nového obsahu, sa domnievajú, že ChatGPT je oveľa horší ako pôvodný model.

OpenAI, hrdý rodič ChatGPT, rýchlo obhájil svoj výtvor. Akékoľvek zámerné „oslabovanie“ svojej hviezdy rozhodne popierajú. Namiesto toho naznačujú, že vnímaný pokles výkonu ChatGPT môže byť spôsobený jeho zvýšeným používaním, ktoré odhaľuje jeho prirodzené obmedzenia.

Vyhodnotili sme #CatGPT's postupom času a zistil podstatné rozdiely v jeho odpovediach na *rovnaké otázky* medzi júnovou verziou GPT4 a GPT3.5 a marcovými verziami. Novšie verzie sa v niektorých úlohách zhoršili. s Lingjiao Chen @matei_zaharia https://t.co/TGeN4T18Fd https://t.co/36mjnejERy pic.twitter.com/FEiqrUVbg6

— James Zou (@james_y_zou) 19. júla 2023

Dej sa zahusťuje náznakmi o strategické kroky OpenAI. Existujú špekulácie, že namiesto spoliehania sa na jeden obrovský model GPT-4 môže OpenAI diverzifikovať a vytvoriť sériu menších, špecializovaných modelov GPT-4. Tento prístup „zmes odborníkov“ by mohol zmeniť hru a ponúkať výhody veľkého modelu bez súvisiacich výpočtových nákladov. Prečo sa ChatGPT stal nemým?!

Aká je budúcnosť? OpenAI bude vyvíjať produkty špecializované na niky a ponúkať ich profesionálnym organizáciám a tým, ktorí sú ochotní zaplatiť veľa za exkluzívne znalosti a rozvojovú pomoc. Vo svete ovládanom silami nie je múdre sprístupniť všetko všetkým. To, že ChatGPT je obmedzenejší, dokazujú rôzne matematické testy od rôznych autorov. Ak predtým niečo fungovalo, ale teraz nie, s modelom nie je niečo v poriadku.

Aj keď sa súčasná trajektória ChatGPT môže zdať trochu neistá, stojí za to pripomenúť, že každý technologický zázrak, rovnako ako ľudia, má svoje vzostupy a pády. Dúfajme, že toto je len dočasný výkyv na inak trblietavej ceste ChatGPT a čoskoro sa vráti, aby nás obdaril svojou AI mágiou.

Vedci zo Stanford & Berkley sa obávajú poklesu IQ ChatGPT

V čerstvej štúdii, ktorá stále čaká na odborné hodnotenie, vedci z prestížnych univerzít v Stanforde a Berkeley odhalili, že populárny jazykový model OpenAI GPT zrejme stratil časť zo svojej ostrosti. Ich zistenia ukazujú, že v priebehu niekoľkých mesiacov sa správanie a presnosť odozvy modelov GPT-3.5 a GPT-4 výrazne zmenili. Obzvlášť znepokojujúce bolo zistenie, že v marci 2023 GPT-4 ľahko identifikoval prvočísla s presnosťou 97,6%, ale do júna 2023 táto presnosť klesla na iba 2,4%. Tieto zistenia sú v súlade so sťažnosťami mnohých používateľov, ktorí si za posledný mesiac všimli, že ChatGPT sa zdá byť čoraz „hlúpejší“. Peter Welinder, viceprezident pre produkty OpenAI, však rýchlo poprel, že zníženie výkonu modelu bolo zámerné. Namiesto toho tvrdil, že každá nová verzia modelu je inteligentnejšia ako predchádzajúca a že akékoľvek zmeny v používateľskej skúsenosti môžu byť spôsobené zvýšeným používaním. Výskum zo Stanfordu a Berkeley však toto tvrdenie spochybňuje a ukazuje pokles presnosti a schopnosti modelu v priebehu času. Aj keď výskumníci neuviedli konkrétne dôvody tohto poklesu, zdôraznili, že je dôležité pochopiť, či aktualizácie modelu, ktoré sú určené na zlepšenie určitých funkcií, skutočne poškodzujú jeho schopnosti v iných oblastiach. To všetko spochybňuje tvrdenia OpenAI o neustálom vylepšovaní svojich modelov. Zároveň existuje pochybnosť, že OpenAI to nerobí zámerne.

Prečo by OpenAI obmedzovala ChatGPT?!

1. Obavy o bezpečnosť: Čím silnejšia je AI, tým väčšia je možnosť zneužitia. Obmedzenie schopností ChatGPT by mohlo byť obranným mechanizmom proti potenciálnemu zneužitiu, ako sú dezinformácie, hacking alebo iné škodlivé akcie.
2. Ochrana obchodného modelu: OpenAI môže chcieť obmedziť bezplatnú verziu ChatGPT, aby povzbudila používateľov k nákupu platených verzií alebo služieb, ktoré ponúkajú viac funkcií a možností.
3. Etika a zodpovednosť: So zvýšenou silou prichádza väčšia zodpovednosť. OpenAI by mohla obmedziť ChatGPT, aby sa zabránilo neúmyselnému šíreniu dezinformácií alebo propagácii škodlivých myšlienok.
4. Regulačný tlak: Vlády a regulačné orgány na celom svete si čoraz viac uvedomujú silu a potenciálne riziká AI. OpenAI by mohla obmedziť ChatGPT v reakcii na tlak alebo požiadavky regulátorov.
5. Udržiavanie kvality: Pri zvýšenom používaní a zaťažení systému by mohlo dôjsť k zníženiu kvality odpovedí. Obmedzenie kapacity by mohlo byť prostriedkom na zabezpečenie toho, aby ChatGPT naďalej poskytoval kvalitné a spoľahlivé reakcie. Oziorma, že kapacity prístupu k službe sú zachované.
6. Technické obmedzenia: Každý systém má svoje obmedzenia. Možno si OpenAI uvedomilo, že súčasná infraštruktúra dosiahla svoje limity a rozhodla sa obmedziť výkon, kým nenájde riešenie.
7. Ochrana duševného vlastníctva: OpenAI môže chcieť obmedziť prístup k najpokročilejším funkciám ChatGPT s cieľom chrániť svoje duševné vlastníctvo a zabrániť potenciálnemu kopírovaniu alebo zneužitiu konkurentmi.

 

Najpravdepodobnejší scenár obmedzenia ChatGPT? No predstavte si kombináciu viacerých faktorov, ktoré sa spoja v akejsi „dokonalej búrke“ pre nášho milovaného robota. Po prvé, máme OpenAI, čo je ako starostlivá matka, ktorá chce, aby jej dieťa bolo etické a zodpovedné. Nechce, aby jej „malá“ AI šírila nepravdivé informácie alebo sa zapájala do nejakých intríg. Potom je tu regulačný tlak. Predstavte si vlády, ktoré sú ako tie, ktoré kontrolujú učiteľov na školskom dvore, vždy sa pozerajú a čakajú, že niekto urobí chybu. OpenAI mohlo predpovedať, že tento „učiteľ“ čoskoro začne kývať prstom a rozhodne sa zostať o krok pred ním. A samozrejme nesmieme zabudnúť na biznis model. OpenAI, hoci je nezisková, musí platiť aj účty. Možno chcú, aby sa viac používateľov rozhodlo pre platené verzie namiesto spoliehania sa na bezplatnú verziu. A nakoniec technické obmedzenia. Predstavte si ChatGPT ako športovca, ktorý je možno pretrénovaný a potrebuje si trochu oddýchnuť, aby sa vyhol „natiahnutiu svalu“. Toto všetko spolu vytvára zaujímavú zmes dôvodov, prečo by sa náš drahý ChatGPT mohol stať o niečo viac... obmedzeným. Ale hej, všetci máme svoje dni, však?

Ale aj tak, prečo sa ChatGPT stal hlúpym?!