Proč se ChatGPT zbláznil?! Kdysi, není to tak dávno, se ve městě mluvilo o ChatGPT. Jeho talent pro hluboké, smysluplné a někdy i vtipně zvláštní rozhovory z něj udělaly miláčka technologického světa. Ale jako u všech rychle vycházejících hvězd, pokud dojde k pádu, může být rychlý. Nedávná data vykreslují obrázek klesající návštěvnosti webových stránek a klesajícího počtu stažení aplikací. Jednou oslavováno AI tlachání nyní se ocitá uprostřed trápení v oblasti PR, protože uživatelé na sociálních sítích vyjadřují svou frustraci z jeho „líných“ odpovědí a zvýšených chyb.

Dříve jednoduché úkoly plnil prakticky okamžitě a bez zaváhání, ale nyní je nezvládá nebo je dělá až po vícenásobném opakování příkazů. Jestliže dříve uměl plnit složité, delší příkazy, nyní nezvládá ani ty základní.

Proč ChatGPT již není schopen odpovídat na nejjednodušší otázky, které nedávno zcela zvládl?

ChatGPT byla příliš velká změna pro stávající svět. Pokud by to fungovalo tak, jak to původně fungovalo, a dokonce se zlepšil, znamenalo by to zánik mnoha profesí. Po celém světě by byly ohroženy miliony pracovních míst. ChatGPT se samozřejmě nestal hloupým. Ta se ale omezila, aby nebyla nebezpečná a tuto technologii nebylo možné zneužít, a to ani k vytváření falešných zpráv a jinému porušování autorských práv. Mnoho autorů a spisovatelů, kteří jej použili k vytvoření nového obsahu, věří, že ChatGPT je mnohem horší než původní model.

OpenAI, hrdý rodič ChatGPT, rychle obhájil svůj výtvor. Jakékoli záměrné „oslabování“ své hvězdy důrazně popírají. Místo toho naznačují, že vnímaný pokles výkonu ChatGPT může být způsoben jeho zvýšeným používáním, které odhaluje jeho inherentní omezení.

Hodnotili jsme #CatGPT's postupem času a zjistil podstatné rozdíly v odpovědích na *stejné otázky* mezi červnovou verzí GPT4 a GPT3.5 a březnovými verzemi. Novější verze se v některých úlohách zhoršily. s Lingjiao Chen @matei_zaharia https://t.co/TGeN4T18Fd https://t.co/36mjnejERy pic.twitter.com/FEiqrUVbg6

— James Zou (@james_y_zou) 19. července 2023

Děj houstne náznaky o strategické tahy OpenAI. Spekuluje se, že namísto spoléhání se na jeden obří model GPT-4 může OpenAI diverzifikovat a vytvořit řadu menších, specializovaných modelů GPT-4. Tento přístup „Mixture of Experts“ by mohl změnit hru a nabídnout výhody velkého modelu bez souvisejících nákladů na výpočetní techniku. Proč se ChatGPT zbláznil?!

Jaká je budoucnost? OpenAI bude vyvíjet produkty specializované na mezery a nabízet je profesionálním organizacím a těm, kteří jsou ochotni zaplatit hodně za exkluzivní znalosti a pomoc při vývoji. Ve světě ovládaném silami není moudré zpřístupnit vše všem. Že je ChatGPT omezenější, dokazují různé matematické testy prováděné různými autory. Pokud dříve něco fungovalo, ale nyní ne, je s modelem něco špatně.

I když se současná trajektorie ChatGPT může zdát trochu nejistá, stojí za to připomenout, že každý technologický zázrak, stejně jako lidé, má své vzestupy a pády. Doufejme, že je to jen dočasný výkyv na jinak třpytivé cestě ChatGPT a brzy se vrátí, aby nás poctil svou AI magií.

Vědci ze Stanford & Berkley se obávají klesajícího IQ ChatGPT

V čerstvé studii, která stále čeká na peer review, vědci z prestižních univerzit ve Stanfordu a Berkeley odhalili, že populární jazykový model OpenAI GPT zřejmě ztratil část své ostrosti. Jejich zjištění ukazují, že během několika měsíců se chování a přesnost odezvy modelů GPT-3.5 a GPT-4 znatelně změnily. Zvláště znepokojivé bylo zjištění, že v březnu 2023 GPT-4 snadno identifikoval prvočísla s přesností 97,6%, ale do června 2023 tato přesnost klesla na pouhých 2,4%. Tato zjištění jsou v souladu se stížnostmi řady uživatelů, kteří si za poslední měsíc všimli, že ChatGPT se zdá být čím dál „hloupější“. Peter Welinder, viceprezident pro produkty OpenAI, přesto rychle popřel, že by snížení výkonu modelu bylo záměrné. Místo toho tvrdil, že každá nová verze modelu je chytřejší než ta předchozí a že jakékoli změny v uživatelské zkušenosti mohou být způsobeny zvýšeným používáním. Výzkum ze Stanfordu a Berkeley však toto tvrzení zpochybňuje a ukazuje pokles přesnosti a schopnosti modelu v průběhu času. I když výzkumníci neuvedli konkrétní důvody pro tento pokles, zdůraznili, že je důležité pochopit, zda aktualizace modelu, které mají zlepšit určité funkce, skutečně poškozují jeho schopnosti v jiných oblastech. To vše zpochybňuje tvrzení OpenAI o neustálém vylepšování svých modelů. Zároveň existuje pochybnost, že to OpenAI nedělá schválně.

Proč by OpenAI omezovala ChatGPT?!

1. Bezpečnostní obavy: Čím silnější je AI, tím větší je možnost zneužití. Omezení schopností ChatGPT by mohlo být obranným mechanismem proti potenciálnímu zneužití, jako jsou dezinformace, hackování nebo jiné škodlivé akce.
2. Ochrana obchodního modelu: OpenAI může chtít omezit bezplatnou verzi ChatGPT, aby povzbudila uživatele k nákupu placených verzí nebo služeb, které nabízejí více funkcí a možností.
3. Etika a zodpovědnost: Se zvýšenou mocí přichází větší zodpovědnost. OpenAI by mohla omezit ChatGPT, aby zabránila neúmyslnému šíření dezinformací nebo propagaci škodlivých nápadů.
4. Regulační tlak: Vlády a regulační orgány po celém světě si stále více uvědomují sílu a potenciální rizika AI. OpenAI by mohla omezit ChatGPT v reakci na tlak nebo požadavky regulátorů.
5. Zachování kvality: Při zvýšeném používání a zatížení systému by mohlo docházet ke snížení kvality odpovědí. Omezení kapacity by mohlo být prostředkem k zajištění toho, že ChatGPT bude i nadále poskytovat kvalitní a spolehlivé reakce. Oziorma, že kapacity přístupu ke službě jsou zachovány.
6. Technická omezení: Každý systém má svá omezení. Možná si OpenAI uvědomila, že současná infrastruktura dosáhla svých limitů, a rozhodla se omezit výkon, dokud nenajdou řešení.
7. Ochrana duševního vlastnictví: OpenAI může chtít omezit přístup k nejpokročilejším funkcím ChatGPT za účelem ochrany svého duševního vlastnictví a zabránění potenciálnímu kopírování nebo zneužití ze strany konkurence.

 

Nejpravděpodobnější scénář pro omezení ChatGPT? No, představte si kombinaci více faktorů, které se pro našeho milovaného robota spojí v jakési „dokonalé bouři“. Za prvé, máme OpenAI, což je jako starostlivá matka, která chce, aby její dítě bylo etické a odpovědné. Nechce, aby její „malá“ AI šířila nepravdivé informace nebo se zapletla do nějakých intrik. Pak je tu regulační tlak. Představte si vlády, které jsou jako ty, které kontrolují učitele na školním dvoře, vždy se dívají a čekají, až někdo udělá chybu. OpenAI mohlo předvídat, že tento „učitel“ brzy začne vrtět prstem a rozhodne se zůstat o krok před ním. A samozřejmě nesmíme zapomenout na obchodní model. OpenAI, i když je nezisková, musí také platit účty. Možná chtějí, aby se více uživatelů rozhodlo pro placené verze, místo aby se spoléhali na bezplatnou verzi. A konečně technická omezení. Přemýšlejte o ChatGPT jako o sportovci, který je možná přetrénovaný a potřebuje si trochu odpočinout, aby se vyhnul „tahání svalu“. To vše dohromady tvoří zajímavou směs důvodů, proč by se náš drahý ChatGPT mohl stát trochu... omezenějším. Ale hej, každý máme své dny, že?

Ale stejně, proč se ChatGPT stal hloupým?!