Perplexity heeft recentelijk een onderzoeksvooruitblik vrijgegeven op een nieuwe versie van zijn GLM 5.2-model. Deze na-training (post-training) maakt het mogelijk om binnen de ‘Computer’ infrastructuur van het bedrijf te functioneren, waarbij het alleen naar de krachtige Claude Opus 4.8 kan moedigen als de situatie dat vereist. Dit nieuwe model, dat presteert tegen een kostprijs van slechts een derde van die van Opus 4.8, biedt een significante besparing voor zowel bedrijven als ontwikkelaars die gebruikmaken van geavanceerde AI-technologieën.
Het GLM 5.2-model, dat is ontwikkeld door Z.AI — voorheen bekend als Zhipu AI — bevat maar liefst 744 miljard parameters. Parameters zijn de variabelen die een model tijdens de training leert afstemmen om zijn prestaties te verbeteren. Dit model is uitgegeven onder een MIT-licentie, wat betekent dat het vrijelijk gedistribueerd en aangepast kan worden, wat de toegang vergemakkelijkt voor ontwikkelaars wereldwijd.
Bij fine-tuning wordt een reeds getraind AI-model opnieuw getraind op een kleinere, meer specifieke dataset om de prestaties voor een bepaald doel te optimaliseren. Dit kan worden vergeleken met het tunen van een auto: ontwikkelaars kunnen dezelfde basisauto aanpassen voor verschillende doeleinden, zoals drag racing of rally. In de context van AI leidt fine-tuning tot modellen die beter zijn afgestemd op specifieke taken en minder bias vertonen, afhankelijk van de toepassing.
Perplexity heeft deze strategie toegepast door GLM 5.2 zodanig aan te passen dat het de vaardigheid heeft ontwikkeld om te bepalen wanneer het een taak zelf kan afhandelen en wanneer escalatie naar een krachtiger model nodig is. Deze escalatiecapaciteit vormt de kern van de aanpassing. De verbeterde GLM 5.2 beschikt over wat Perplexity een “advisor tool” noemt, waardoor het model kan inschatten wanneer een vraag zijn capaciteiten overstijgt en overstapt naar een derde partij, zoals de krachtige Opus 4.8. Dit resulteert niet alleen in een verbeterde efficiency, maar ook in aanzienlijke kostenbesparingen bij de uitvoering van complexe taken.
De concurrentie tussen de VS en China op het gebied van AI wordt vaak als een zero-sum game gezien, maar open-source modellen kennen geen nationale grenzen. De MIT-licentie die aan GLM 5.2 is verbonden, maakt het voor ontwikkelaars eenvoudig om deze technologieën te downloaden en aan te passen zonder juridische en contractuele obstakels. Perplexity leerde deze lessen enkele jaren geleden toen het DeepSeek R1 model aanpaste, waarmee het Chinese censuurthema’s omzeilde en de techniek in een meer westerse context plaatste.
Nu richt Perplexity zich minder op politieke overwegingen, maar eerder op economische efficiëntie. Met de komst van de fine-tuned GLM 5.2 is het model niet bedoeld om de meest complexe taken uit te voeren, maar eerder als kosteneffectieve ‘default’ optie voordat naar duurdere modellen wordt overgestapt. De infrastructuur is al op grote schaal geïmplementeerd, waardoor Perplexity in een unieke positie verkeert om deze strategie te realiseren.
De operationele inzet vindt plaats op Nvidia B200 GPU’s in de Verenigde Staten, met plannen voor verdere ontwikkelingen. Binnenkort worden meer gedetailleerde benchmarks en een onderzoeksdocument verwacht over de prestaties van dit model. De opbrengst van deze inzet gaat echter niet enkel om technologisch voordeel; in een tijd waarin kostenbeheersing essentieel is, toont Perplexity aan dat slimme aanpassingen aan bestaande modellen niet alleen de innovatie bevorderen, maar ook de economie van AI toepassingen kunnen optimaliseren.
Waarom is het GLM 5.2-model economisch voordeliger voor bedrijven?
Het GLM 5.2-model biedt een prijs-kwaliteitverhouding die significant beter is dan duurdere modellen zoals Claude Opus 4.8, doordat het de meeste taken efficiënt afhandelt zonder dat hierbij extra kosten worden gemaakt voor zware infrastructuur.
Hoe verschilt het fine-tuning proces van de traditionele AI-training?
Fine-tuning betreft het opnieuw trainen van een bestaand model met een gerichte dataset om specifieke skills of bias te verbeteren, terwijl traditionele training te maken heeft met de opbouw van het model vanaf de basis.
Wat zijn de toekomstige plannen van Perplexity met betrekking tot AI-modellen?
Perplexity is van plan om verschillende open-source modellen verder te optimaliseren en de infrastructuur uit te breiden, zodat ze de prestaties kunnen verhogen en tegelijkertijd de kosten voor eindgebruikers kunnen verlagen.
