Obsežna uporaba umetne inteligence in tehnologij strojnega učenja v iskalnikih je utrla pot razvoju naprednih klepetalnih robotov, kot sta ChatGPT in Bard. Čeprav lahko ti klepetalni roboti uporabnikom zagotovijo podrobnejše in informativne odgovore na njihova vprašanja, njihova uporaba pomeni tudi znatne stroške. Glavna težava teh jezikovnih modelov so njihove visoke računalniške zahteve, kar ima za posledico znatno povečanje porabe energije in stroškov.
Glede na študijo Morgan Stanleyja bi Google, če bi polovico svojih iskalnih poizvedb obravnaval prek teh zapletenih chatbotov, povzročil dodatne stroške v višini približno šest milijard dolarjev. Ta strošek temelji na povprečni dolžini odgovora, ki je običajno 50 besed. Vendar bodo daljši odzivi zahtevali še več računalniške moči, kar bo še povečalo stroške. Če bi jezikovni model ustvaril 100 besed namesto 50, bi dodatni stroški znašali okoli dvanajst milijard dolarjev, poroča Reuters.
Visoke računalniške zahteve teh chatbotov so posledica dejstva, da za ustvarjanje odgovorov uporabljajo velike jezikovne modele. Modeli uporabljajo napovedi verjetnosti za ustvarjanje najverjetnejše naslednje besede v stavku. Posledično več besed kot ustvari model, več procesorske moči potrebuje. To pomeni, da so daljši odzivi običajno dvakrat bolj računsko intenzivni kot krajši.
Čeprav se dodatni stroški uporabe teh robotov za klepet morda zdijo nepomembni za skupno dobičkonosnost Googla, imajo lahko resne okoljske in finančne posledice. Vsako iskanje v Googlu podjetje trenutno stane približno 0,2 ameriškega centa, kar je strošek, ki ga podjetje zlahka povrne z oglaševanjem. Vendar pa bi lahko uporaba klepetalnih robotov, kot sta ChatGPT in Bard, za iskalne poizvedbe povzročila premik v industriji iskalnikov, kar bi lahko vplivalo na Googlov prihodek od oglaševanja.
