Dlaczego ChatGPT zgłupiało?! Dawno, dawno temu, całe miasto mówiło o ChatGPT. Jego talent do głębokich, znaczących, a czasem przezabawnych rozmów sprawił, że stał się ulubieńcem świata technologii. Ale tak jak w przypadku wszystkich szybko wschodzących gwiazd, jeśli nastąpi upadek, może on nastąpić szybko. Najnowsze dane przedstawiają obraz spadającego ruchu w witrynie i liczby pobrań aplikacji. Kiedyś obchodzony Gadanie AI teraz znajduje się w środku dylematu PR, ponieważ użytkownicy mediów społecznościowych wyrażają swoją frustrację z powodu jego „leniwych” odpowiedzi i zwiększonej liczby błędów.

W rzeczywistości zwykłe czynności wykonywał praktycznie natychmiast i bez wahania, teraz nie może ich wykonać lub wykonuje je dopiero po kilkukrotnym powtórzeniu komendy. Jeśli wcześniej był w stanie wykonywać złożone, dłuższe polecenia, teraz nie jest w stanie wykonać nawet podstaw.

Dlaczego ChatGPT nie jest już w stanie odpowiedzieć na najprostsze pytania, które ostatnio całkowicie opanował?

ChatGPT był zbyt dużą zmianą dla istniejącego świata. Gdyby działało tak, jak pierwotnie, a nawet udoskonalonyoznaczałoby to wyginięcie wielu zawodów. Zagrożone byłyby miliony miejsc pracy na całym świecie. Oczywiście ChatGPT nie stał się głupi. Ale została ona ograniczona, aby nie była niebezpieczna i nie można jej nadużywać, nawet do tworzenia fałszywych wiadomości i innych naruszeń praw autorskich. Wielu autorów i pisarzy, którzy wykorzystali go do tworzenia nowych treści, uważa, że ChatGPT jest znacznie gorszy niż oryginalny model.

OpenAI, dumny rodzic ChatGPT, szybko stanął w obronie swojego dzieła. Stanowczo zaprzeczają jakiemukolwiek celowemu „osłabieniu” swojej gwiazdy. Zamiast tego sugerują, że postrzegany spadek wydajności ChatGPT może wynikać z jego zwiększonego wykorzystania, co ujawnia jego nieodłączne ograniczenia.

oceniliśmy # CzatGPT'z biegiem czasu i znalazł znaczne różnice w odpowiedziach na *te same pytania* między czerwcowymi wersjami GPT4 i GPT3.5 a marcowymi wersjami. Nowsze wersje pogorszyły się w niektórych zadaniach. z Lingjiao Chenem @matei_zaharia https://t.co/TGeN4T18Fd https://t.co/36mjnejERy pic.twitter.com/FEiqrUVbg6

— James Zou (@james_y_zou) 19 lipca 2023 r

Fabuła gęstnieje od wskazówek nt strategiczne posunięcia OpenAI. Istnieją spekulacje, że zamiast polegać na jednym gigantycznym modelu GPT-4, OpenAI może dywersyfikować, tworząc serię mniejszych, wyspecjalizowanych modeli GPT-4. To podejście „mieszaniny ekspertów” może zmienić reguły gry, oferując korzyści płynące z dużego modelu bez związanych z tym kosztów obliczeniowych. Dlaczego ChatGPT zgłupiało?!

Jaka jest przyszłość? OpenAI będzie rozwijać produkty wyspecjalizowane w niszach i oferować je profesjonalnym organizacjom oraz tym, którzy są gotowi zapłacić dużo za ekskluzywną wiedzę i pomoc rozwojową. W świecie kontrolowanym przez siły nie jest rozsądne udostępnianie wszystkiego wszystkim. To, że ChatGPT jest bardziej ograniczone, zostało udowodnione przez różne testy matematyczne przeprowadzone przez różnych autorów. Jeśli coś działało wcześniej, a teraz nie, coś jest nie tak z modelem.

Chociaż obecna trajektoria ChatGPT może wydawać się nieco chwiejna, warto pamiętać, że każdy cud techniki, podobnie jak ludzie, ma swoje wzloty i upadki. Miejmy nadzieję, że to tylko chwilowy wybryk w skądinąd błyskotliwej podróży ChatGPT i wkrótce powróci, by zaszczycić nas swoją magią sztucznej inteligencji.

Badacze Stanford & Berkley martwili się spadkiem IQ ChatGPT

W nowym badaniu, które wciąż czeka na recenzję, naukowcy z prestiżowych uniwersytetów Stanford i Berkeley ujawnili, że popularny model językowy OpenAI GPT stracił nieco na ostrości. Ich odkrycia pokazują, że w ciągu kilku miesięcy zachowanie i dokładność odpowiedzi modeli GPT-3.5 i GPT-4 uległy zauważalnej zmianie. Szczególnie niepokojące było odkrycie, że w marcu 2023 r. GPT-4 z łatwością zidentyfikował liczby pierwsze z dokładnością 97,6%, ale do czerwca 2023 r. dokładność ta spadła do zaledwie 2,4%. Odkrycia te są zgodne ze skargami wielu użytkowników, którzy zauważyli w ciągu ostatniego miesiąca, że ChatGPT wydaje się być coraz bardziej „głupi”. Mimo to Peter Welinder, wiceprezes OpenAI ds. produktów, szybko zaprzeczył, że obniżenie wydajności modelu było zamierzone. Zamiast tego argumentował, że każda nowa wersja modelu jest inteligentniejsza od poprzedniej, a wszelkie zmiany w doświadczeniu użytkownika mogą wynikać ze zwiększonego wykorzystania. Jednak badania przeprowadzone przez Stanford i Berkeley kwestionują to twierdzenie, pokazując spadek dokładności i wydajności modelu w czasie. Chociaż badacze nie podali konkretnych przyczyn tego spadku, podkreślili, że ważne jest, aby zrozumieć, czy aktualizacje modelu, które mają na celu poprawę niektórych funkcji, faktycznie szkodzą jego możliwościom w innych obszarach. Wszystko to stawia pod znakiem zapytania twierdzenia OpenAI o ciągłym ulepszaniu swoich modeli. Jednocześnie można mieć wątpliwości, czy OpenAI nie robi tego celowo.

Dlaczego OpenAI miałby ograniczać ChatGPT?!

1. Względy bezpieczeństwa: Im silniejsza sztuczna inteligencja, tym większe prawdopodobieństwo nadużyć. Ograniczenie możliwości ChatGPT może być mechanizmem obronnym przed potencjalnymi nadużyciami, takimi jak dezinformacja, hakowanie lub inne złośliwe działania.
2. Ochrona modelu biznesowego: OpenAI może chcieć ograniczyć darmową wersję ChatGPT, aby zachęcić użytkowników do zakupu płatnych wersji lub usług, które oferują więcej funkcji i możliwości.
3. Etyka i odpowiedzialność: Ze zwiększoną mocą wiąże się większa odpowiedzialność. OpenAI może ograniczyć ChatGPT, aby zapobiec nieumyślnemu rozpowszechnianiu dezinformacji lub promowaniu szkodliwych pomysłów.
4. Ciśnienie regulacyjne: Rządy i organy regulacyjne na całym świecie są coraz bardziej świadome siły i potencjalnych zagrożeń związanych ze sztuczną inteligencją. OpenAI może ograniczyć ChatGPT w odpowiedzi na naciski lub prośby organów regulacyjnych.
5. Utrzymanie jakości: Przy zwiększonym użyciu i obciążeniu systemu może nastąpić spadek jakości odpowiedzi. Ograniczanie przepustowości może być sposobem na zapewnienie, że ChatGPT nadal zapewnia wysokiej jakości i niezawodne odpowiedzi. Oziorma, że możliwości dostępu do usługi są zachowane.
6. Ograniczenia techniczne: Każdy system ma swoje ograniczenia. Być może firma OpenAI zdała sobie sprawę, że obecna infrastruktura osiągnęła swoje granice i postanowiła ograniczyć wydajność do czasu znalezienia rozwiązania.
7. Ochrona własności intelektualnej: OpenAI może chcieć ograniczyć dostęp do najbardziej zaawansowanych funkcji ChatGPT, aby chronić swoją własność intelektualną i zapobiec potencjalnemu kopiowaniu lub nadużyciom ze strony konkurencji.

 

Najbardziej prawdopodobny scenariusz ograniczenia ChatGPT? Cóż, wyobraź sobie kombinację kilku czynników, które składają się na coś w rodzaju „idealnej burzy” dla naszego ukochanego robota. Po pierwsze, mamy OpenAI, które jest jak troskliwa matka, która chce, aby jej dziecko było etyczne i odpowiedzialne. Nie chce, aby jej „mała” AI rozpowszechniała nieprawdziwe informacje lub wplątywała się w jakiekolwiek intrygi. Do tego dochodzi presja regulacyjna. Wyobraź sobie rządy, które są jak te kontrolujące nauczycieli na szkolnym podwórku, zawsze obserwujące i czekające, aż ktoś popełni błąd. OpenAI mógł przewidzieć, że ten „nauczyciel” wkrótce zacznie machać palcem i zdecyduje się być o krok przed nim. I oczywiście nie możemy zapomnieć o modelu biznesowym. OpenAI, choć non-profit, ma również rachunki do zapłacenia. Może chcą, aby więcej użytkowników wybrało płatne wersje zamiast polegać na darmowej wersji. I wreszcie ograniczenia techniczne. Pomyśl o ChatGPT jako o sportowcu, który być może przetrenował się i potrzebuje trochę odpoczynku, aby uniknąć „naciągnięcia mięśnia”. Wszystko to razem tworzy interesującą mieszankę powodów, dla których nasz drogi ChatGPT może stać się nieco bardziej… ograniczony. Ale hej, wszyscy mamy swoje dni, prawda?

Ale w każdym razie, dlaczego ChatGPT stał się głupi?!