Noah Korevaar Tech 3 mrt 2023, 18:03

Leestijd: 6 minuten

Google’s dilemma: hoe AI de zoekmachine miljarden kost

De samenwerking tussen Microsoft en OpenAI zorgt er opeens voor dat Bing weer relevant is. De rollen zijn opeens omgedraaid: niet Microsoft, maar Google heeft de zoekmachine die achterloopt. Daar is echter een enorm prijzige reden voor.

De zoekgigant kondigde alsnog duidelijk overhaast een eigen equivalent aan, Bard. Een ChatGPT-achtige zoekmachine lijkt opeens de heilige graal te zijn voor elk techbedrijf. De stuntelige presentatie van Google maakte duidelijk dat de tech eigenlijk nog niet klaar was voor primetime. Iets waarover medewerkers van de techgigant ook tegenover journalisten van Amerikaanse kranten hun ergernis hebben geuit. Oftewel: Microsoft wist de hand van Google effectief te forceren.

Waarom loopt Google achter?

De grote vraag was en is: waarom heeft Google niet allang zijn eigen ChatGPT-achtige zoekmachine-functionaliteit gelanceerd? Waarom wist OpenAI bergen aan mainstream aandacht te krijgen, in plaats van die techgigant? Google heeft immers bergen aan data en al jaren een eigen GPT-equivalent in ontwikkeling.

De (on)betrouwbaarheid van AI is een grote factor in dit verhaal, en Google ligt onder een vergrootglas als het om nepnieuws en andere vormen van desinformatie gaat. Dat de zoekgigant niet overhaast zijn eigen AI-magie wilde lanceren, is dan ook juist ergens een goed teken.

ChatGPT achterna is prijzig

Toch gaat het hier niet enkel om een zoekgigant die zijn verantwoordelijkheid neemt. De nieuwe functionaliteit binnen Bing en toepassingen zoals ChatGPT zijn fascinerend, maar ook enorm duur. Nieuwe technologie introduceren draait niet enkel om wat mogelijk is, maar ook wat betaalbaar is. Apple en Samsung kunnen allang veel geavanceerdere telefoons maken dan je nu in de winkel tegen komt. Maar het gaat erom dat ze die nieuwe tech ook op grote schaal en vooral betaalbaar kunnen produceren. Dat geldt ook voor de introductie van AI.

De huidige zoekmachine van Google raadpleegt een gigantische index van het internet. Jij voert als gebruiker een zoekopdracht in, en de zoekmachine laat je vervolgens de meest relevante bijbehorende entries uit die index zien. Binnen een seconde. Sterker nog: Google laat je zelfs zien hoe lang dat proces duurt. Maar de ChatGPT-achtige zoekfunctionaliteit die Google gaat lanceren met Bard, werkt op basis van een stuk prijziger proces.

Elke keer dat jij iets zoekt moet er een peperduur neural network gebruikt worden, die op zijn beurt ook nog eens de index van het internet erbij pakt. Bovendien zorgt de conversationele vorm waarin dat gebeurt er ook nog eens voor dat je als gebruiker meer van het systeem vraagt dan in de huidige situatie. Een gesprek, in plaats van hooguit twee, drie zoekopdrachten. Dat kost een hoop rekenkracht, en dat is niet gratis.

Te vroeg voor AI?

Medewerkers van Google vroegen na de lancering van ChatGPT al intern waarom de zoekgigant niet zijn eigen equivalent lanceerde. Op hackersforum Hacker News vatte een medewerker destijds anoniem samen waarom Google niet dergelijke technologie lanceerde, ondanks dat het bedrijf er wel klaarblijkelijk over beschikt. “De economics van het daadwerkelijk gebruiken van dit soort taalmodellen in de grootste Google-producten (bijvoorbeeld Zoeken en Gmail) zijn er simpelweg nog niet.

Het is één ding om een demo op te zetten waar geïnteresseerde nerds mee kunnen spelen, maar het is iets heel anders om te proberen het diep te integreren in een systeem dat miljarden verzoeken per dag verwerkt, rekening houdend met de servicekosten, extra latentie en het feit dat de gemiddelde opbrengst op zoiets als een Google-zoekopdracht al bijna oneindig klein is. Ik meen me te herinneren dat men zoiets zei als dat de kosten minstens tien keer zo laag moeten worden voordat het haalbaar zou zijn om dergelijke modellen te integreren in producten zoals Google’s zoekmachine.”

Miljarden dollars

Kosten die Google nu blijkbaar gaat slikken om niet de race met Microsoft en OpenAI te verliezen, maar de vraag is of de toekomst van kunstmatige intelligentie niet te ver naar voren is gehaald. Ook Reuters schrijft na gesprekken met de voorzitter van Google’s moederbedrijf, Alphabet, en meerdere analisten dat “interactie met een taalmodel waarschijnlijk tien keer zoveel kost als een standaard zoekopdracht.” Dat gaat het bedrijf “miljarden dollars aan extra kosten opleveren”. Je hoeft wat oorlogskas betreft geen medelijden met Google te hebben, maar met die context is het des te logischer dat het bedrijf niet grote haast had om zelf als eerste een met kunstmatige intelligentie verrijkte zoekmachine te onthullen. Daarvoor is de technologie simpelweg nog te prijzig. Met de nadruk op ‘nog’.

Doodenge AI: DiCaprio klinkt als Steve Jobs, Kardashian en meer

Niet voor niks werkt Google’s Bard aanvankelijk enkel met een “lichtgewicht modelversie” van het taalmodel LaMDA. Een kleiner model dat “aanzienlijk minder rekenkracht vereist, waardoor we op kunnen schalen naar meer gebruikers, waardoor meer feedback mogelijk is.” Bing heeft een marktaandeel van slechts 3 procent, en hoeft zich dan ook een stuk minder druk te maken om de impact op de bottom line. Google is een bedrijf dat in vele markten actief is, maar het leeuwendeel van de omzet van de zoekgigant komt uit… search. 8,5 miljard zoekopdrachten per dag. Daar AI op loslaten is een compleet andere puzzel dan aan de kant van Microsoft. Voor Microsoft is het initieel slikken van hogere kosten om marktaandeel te veroveren een veel lagere drempel.

Kwestie van een paar jaar

Is het dan volledig hopeloos voor Google? Verre van. Alphabet-voorzitter John Hennessy geeft tegenover Reuters aan dat Google al druk bezig is met het omlaag brengen van de bijbehorende kosten, en noemde het “in het slechtste geval een probleem van een paar jaar”. Google heeft dit soort problemen in het verleden aangepakt, zoals toen het YouTube kocht en de kosten voldoende kon verlagen om er een geldmachine van te maken. De techgigant ontwikkelt zelfs zijn eigen chips om exact dit soort processen efficiënter en vooral goedkoper te maken.

Sure, Google gaat nu een product lanceren dat eigenlijk nog niet gereed was, maar dat is slechts een tijdelijke klap die geïncasseerd moet worden. Voor de lange termijn is de vraag hoe men geld kan gaan verdienen met door AI gedreven conversationele zoekmachines een stuk urgenter. Microsoft voert al gesprekken met advertentieboeren om reclame in de antwoorden van Bing’s AI te stoppen, maar voor Google ligt de lat hoog. De huidige vorm van zoeken op het internet wordt door Google gedomineerd, op een zeer, zeer lucratieve manier. De manier waarop we zoeken compleet omgooien, zonder een duidelijk verdienmodel, zal dan ook niet iets zijn waar de zoekgigant happig op is. Het bestaansrecht van Google, de oneindige geldbron die we als vanzelfsprekend zijn gaan zien, een onverwoestbaar monopolie, is opeens niet meer zo vanzelfsprekend. De wedloop is al begonnen, en OpenAI zet alles op alles om razend snel de toekomst naar voren te halen. Of Google er nou blij mee is, of niet. Wordt vervolgd!

ReutersHacker NewsGoogle Blog