Haker odkrył listę ponad 80 dodatkowych wtyczek podłączonych do ChatGPT za pośrednictwem jego API, drastycznie poszerzając wiedzę sztucznej inteligencji, wskazując na jej potencjalną przyszłą rolę jako konkurenta wyszukiwania dla Google.
Niedawne naruszenie bezpieczeństwa ChatGPT ujawniło ponad 80 wtyczek związanych z ChatGPT, zaawansowanym modelem językowym dla sztucznej inteligencji OpenAI. Haker znany jako rez0 uzyskał dostęp do API i odkrył listę dostawców tak zwanych dodatków, pokazujących potencjał znacznego poszerzenia wiedzy ChatGPT o ogromne bazy danych posiadane przez te firmy.
Firmy znajdujące się na liście obejmują znane nazwiska, takie jak procesor płatności Klarna, firma turystyczna Ekspedia, aplikacja do przesyłania wiadomości Luźny, publikacja Vogue, aplikacja do rezerwacji restauracji OpenTable, amerykańska usługa dostarczania jedzenia Instacart oraz wtyczka DAN, która pokazuje możliwość zmiany osobowości ChatGPT.
Dziś rano hakowałem nowe API ChatGPT i znalazłem coś bardzo interesującego: istnieje ponad 80 tajnych wtyczek, które można ujawnić, usuwając określony parametr z wywołania API.
Tajne wtyczki obejmują „wtyczkę DAN”, „wtyczkę cen kryptowalut” i wiele innych. pic.twitter.com/Q6JO1VLz5x
— 𝟶𝟶 (@rez0__) 24 marca 2023 r
Dodanie tych usług, a spodziewane są kolejne, może znacząco zmienić krajobraz ChatGPT. Integracja tych wtyczek znacznie poszerza jego bazę wiedzy. Sztuczna inteligencja korzysta z przepływu informacji z usług połączonych oraz możliwości szerszego dostępu Internetu do aktualnych danych. Ogólnie rzecz biorąc, ChatGPT może przekształcić się w nową wyszukiwarkę, która będzie konkurować z gigantami branży, takimi jak Google. Jednocześnie mogłyby powstać specjalne, spersonalizowane usługi, uwzględniające przede wszystkim zainteresowania i potrzeby użytkownika sztucznej inteligencji. To wywołałoby prawdziwą rewolucję, spersonalizowane i dopasowane informacje.
Chwila Google opiera się na wyszukiwaniu i indeksowaniu sieci w celu dostarczania użytkownikom linków i podglądów w odpowiedzi na zapytania, ChatGPT może bezpośrednio uzyskiwać dostęp do treści stron internetowych i operatorów usług oraz generować odpowiedzi w języku naturalnym zamiast odpowiedzi opartych na linkach. Treści te mogą być również bardziej autentyczne - a jednocześnie wyselekcjonowane przez redaktorów. Rozwój ten może stworzyć silną zachętę dla firm do łączenia się ze sztuczną inteligencją i dostarczania odpowiednich danych i wiedzy zweryfikowanych przez zasoby ludzkie. Na przykład, jeśli użytkownik zapytał ChatGPT na temat modnych ubrań, odpowiedź mogłaby opierać się na rekomendacjach Vogue'a lub na zbiorze i zbiorze informacji tego medium. Nie tylko całą sieć. Dzięki tej strategii programiści ChatGPT chcą uniknąć zalewu niezweryfikowanych informacji. Strategia wydaje się polegać na połączeniu z odpowiednimi zasobami, aby objąć pewne kluczowe obszary.
Włączenie Slacka do listy wtyczek jest szczególnie interesujące, biorąc pod uwagę jego trwającą konkurencję z Microsoftem. Firma oskarżyła Microsoft o szkodę dla konkurencji, co jest obecnie przedmiotem dochodzenia niemieckiego Federalnego Urzędu Antymonopolowego. OpenAI i ChatGPT są ściśle powiązane z Microsoftem, nie tylko poprzez wsparcie finansowe, ale także poprzez ścisłą współpracę.
Haker cięcie0 ujawniło również opisy, w jaki sposób model językowy powinien korzystać z niektórych wtyczek. Jeden przykład pokazuje, jak powinno ChatGPT komunikować się z użytkownikami Speak, nauczyciela języka opartego na sztucznej inteligencji. Sztuczna inteligencja jest poinstruowana, aby udzielać odpowiedzi w języku naturalnym i używać API „explainTask”, gdy pytania mogą być różnie interpretowane.
mieliśmy poważny problem w ChatGPT z powodu błędu w bibliotece open source, dla którego została wydana poprawka i właśnie zakończyliśmy walidację.
niewielki odsetek użytkowników mógł zobaczyć tytuły historii rozmów innych użytkowników.
czujemy się z tym okropnie.
— Sam Altman (@sama) 22 marca 2023 r
Od tego czasu OpenAI załatało lukę w zabezpieczeniach wykorzystaną przez hakera. Firma napotkała ostatnio inny problem, gdy pokazywała użytkownikom historię czatów innych osób. Dyrektor generalny OpenAI, Sam Altman, przypisał problem błędowi w bibliotece open source, ale nie podał dalszych szczegółów. Od tego czasu OpenAI uruchomiło program nagród za błędy, aby zachęcić społeczeństwo do zgłaszania luk w zabezpieczeniach.
