Jev laat zien dat er meer soorten AI-modellen aankomen
Jev schrijft geen tekst maar neemt beslissingen. De uitstroom bij DeepMind laat zien waarom meer gespecialiseerde AI-modellen kunnen volgen.
Op deze website gebruik ik bewust de term AI en niet standaard LLM. Een large language model is één technische vorm van AI en de huidige golf van AI-producten wordt er sterk door gedomineerd.
Google DeepMind, de AI-tak van Google, werkte van oudsher aan uiteenlopende vormen van AI, niet alleen aan LLMs. AlphaGo leerde het bordspel Go, terwijl AlphaFold de structuur van eiwitten voorspelt. Nu stuurt Google het team sterker richting Gemini, een LLM, en de commerciële wedloop met OpenAI en Anthropic.
“There’s a top-down pressure to drop everything you’re working on and focus on large language models.”
Onderzoek verhuist naar startups
De druk om van Gemini een commercieel succes te maken, verkleint de ruimte voor onderzoek met een minder directe bijdrage aan Googles belangrijkste AI-product. Onderzoekers richten eigen bedrijven op om andere technische richtingen te verkennen.
“Many ex-DeepMind workers aim to pursue AI technology beyond large language models.”
Jev genereert geen antwoord, maar neemt een beslissing
Jev laat zien hoe zo'n gespecialiseerde vorm van AI eruit kan zien. Het model komt van TypeSafe AI, een startup van voormalig OpenAI-onderzoeker Diogo Almeida.
Een toepassing geeft Jev alle relevante informatie en legt vooraf vast welke beslissingen zijn toegestaan. Het model kan vervolgens één optie kiezen, een score geven of de waarschijnlijkheid berekenen dat een stelling waar is. Bij meerdere opties verdeelt het de waarschijnlijkheid over de mogelijke uitkomsten en geeft het ook aan hoeveel vertrouwen het in zijn keuze heeft.
Jev schrijft daarbij geen toelichting. De uitkomst heeft direct een vaste vorm die software kan verwerken. Een klantenservice kan bijvoorbeeld een vraag en een lijst met afdelingen aanleveren. Jev kiest vervolgens de meest waarschijnlijke afdeling, zonder eerst een tekstueel advies te schrijven dat andere software weer moet interpreteren.
TypeSafe presenteert Jev daarom als een model voor snelle, afgebakende beslissingen. De maker meldt grote snelheids- en kostenvoordelen tegenover LLM's, maar die cijfers komen vooralsnog vooral uit eigen tests. Vercel zag wel snelle belangstelling: binnen een dag gebruikte volgens het bedrijf bijna 13 procent van zijn betalende AI Gateway-teams Jev.
Zo zouden de nu dominante LLM's achteraf wel eens kunnen lijken op de eerste fietsen: groot, lomp, zwaar en onhandig. Later kwamen er modellen die specifiek zijn gericht op een bepaalde functie: de racefiets voor wie snel wil, de bakfiets voor wie wat mee wil nemen, enzovoort. Wellicht zijn LLMs de eerste fietsen en is Jev een gespecialiseerde optie.