Inkling, het nieuwste model van het Thinking Machines Lab, werd op 15 juli gelanceerd en markeert een belangrijk moment in de wereld van open-source AI. Met een indrukwekkend aantal van 975 miljard parameters, geheel vanaf nul getraind, biedt het model zowel potentie als uitdagingen die niet te negeren zijn. Dit is het eerste grote project van Mira Murati, die eerder een sleutelrol bij OpenAI vervulde.
Wat Inkling bijzonder maakt, is dat het volledig open-source is en geen regionale beperkingen kent. Het is toegankelijk op Hugging Face onder deApache 2.0-licentie en biedt gebruikers de mogelijkheid om te experimenteren zonder juridische complicaties. Dit brengt ons naar een cruciaal punt: hoewel Inkling zich kan meten met zijn oosterse tegenhangers, zoals die van Alibaba en Nvidia, bevinden veel andere, goed presterende modellen zich op een niveau dat Inkling niet zomaar overtreft. Dit roept de vraag op wat dit betekent voor ontwikkelaars en investeerders die op zoek zijn naar op maat gemaakte oplossingen.
Inkling is gebouwd als een mixture-of-experts-model, wat betekent dat slechts een fractie van de totale parameters tegelijkertijd actief is tijdens inferentie. Dit zorgt ervoor dat het model efficiënt omgaat met complexe taken. Met ondersteuning voor het verwerken van tekst, beelden en audio en een contextvenster van maximaal één miljoen tokens, is het duidelijk dat de technieken die zijn gebruikt voor Inkling state-of-the-art zijn. Het grote aantal parameters biedt enorme mogelijkheden, maar brengt ook vragen met zich mee over de daadwerkelijke uitkomsten en prestaties in vergelijking met kleinere, meer toegankelijke modellen.
Bij het testen van Inkling kwamen enkele significante bevindingen naar voren. De scores voor de Model Context Protocol (MCP) Atlas, die de effectiviteit in het voltooien van real-world taken meet, wijzen uit dat Inkling met 74.1% presteert, wat bijna 30 punten boven Nvidia’s Nemotron ligt. Dit maakt het model een geloofwaardige keuze voor workflows die afhankelijk zijn van doelgerichte actie en efficiëntie.
Hoewel benchmarks nuttig zijn, is het testen in realistische scenario’s essentieel voor een eerlijke beoordeling van Inkling. Onze praktijktests toonden dat het model soms teleurstelde, vooral bij complexe opdrachten zoals het programmeren van een game. Bij een gedetailleerdere instructie faalde het eerst volledig, om vervolgens, bij een meer vereenvoudigde versie, een werkende oplossing te bieden. De kwaliteit van de uitvoer was echter eerder teleurstellend – abstracte geometrieën in plaats van een volwaardige game.
Wat we binnen deze context ook opmerkten, was de onverwachte innovatie in de bewegingslogica van de gegenereerde entiteiten. In plaats van zich statisch op te stellen, kwamen de tegenstanders constant dichterbij, wat op zich een slimme ontwerpkeuze is, hoewel de algehele presentatie te wensen overliet.
Een vergelijkende test met Bonsai 27B, dat ruim 27 miljard parameters heeft en op een mobiele telefoon draait, toonde zelfs aan dat een kleiner model een completere coding-ervaring kon bieden dan Inkling. Dit roept vragen op over de effectiviteit van Inkling’s grote aantal parameters en het benutten van middelen; waar blijven die 975 miljard parameters precies?
Inkling is ook ingezet voor tests op het gebied van creatieve output en logische redenering. Bij de creativiteitstest ging het model vreemd genoeg goed om, maar verloor het grip toen het complexe concepten moest samenbrengen. Hoewel de verbindingen idealiter logisch en coherent zouden moeten zijn, waren sommige resultaten eerder oppervlakkig of inconsistent. Dit is cruciaal voor diegenen die willen dat AI een более spontane en ingenieuze aanpak heeft, iets dat nog niet volledig gerealiseerd lijkt te zijn.
In termen van logische redenering toont Inkling zwaktes bij het oplossen van puzzels zoals de klassiekers rondom het brug- en fakkelprobleem. Voorts beleefde Inkling een onthulling: het was meer gericht op het oproepen van eerder-geleerde antwoorden dan op het daadwerkelijk oplossen van de nieuwe vraagstukken.
Een belangrijk aspect van Inkling is de censuur die hen drijft. Bij het stellen van vragen die als moreel twijfelachtig kunnen worden beschouwd, blijkt het model sterk te falen in het bieden van bruikbare antwoorden. Dit roept onvermijdelijk de vraag op of het model effectief functioneert binnen de huidige grenzen van ethiek en verantwoordelijkheid. Zeker voor jonge, onervaren ontwikkelaars is het essentieel om te begrijpen waarom dergelijke censuur kan optreden en welke impact dit heeft op de bruikbaarheid van een model.
Al met al is Inkling een waardevolle aanwinst in de wereld van open-source AI vanuit een westerse labomgeving, maar het blijft zowel een uitdaging als een opportuniteit. Het biedt voldoende potentieel voor specifieke, compliance-gedreven organisaties, maar kan voor meer algemene toepassingen tekortschieten in vergelijking met goedkopere en kleinere modellen die momenteel al beschikbaar zijn. Murati’s laboratorium heeft zeker een solide basis gelegd die kan worden uitgebouwd, maar het eerste model heeft potentieel nodig dat verder gaat dan enkel het samenbrengen van parameters. Terwijl de industrie zich voortzet, zullen de afwegingen van prijs, prestaties en gebruiksgemak centraal blijven staan voor ontwikkelaars en beleidsmakers in de cryptomarkt en daarbuiten.
Hoe verhoudt Inkling zich tot andere open-source modellen?
Inkling is momenteel een van de grootste open-source modellen die in het Westen zijn ontwikkeld, maar het biedt geen eenduidige voordelen ten opzichte van goedkopere of kleinere modellen die ook krachtige prestaties leveren. Het maakt vooral indruk met zijn agentische toolgebruik en compatibiliteit voor organizationele workflows.
Wat zijn de voornaamste beperkingen van Inkling?
Inkling vertoont zwaktes bij complexe coding-taken en logische puzzels, wat kan betekenen dat de praktische bruikbaarheid voor ontwikkelaars die kwaliteit en precisie zoeken, beperkt is. Daarnaast kan de censuur rond controversiële onderwerpen de effectiviteit van het model in de weg staan.
Hoe kan Inkling worden toegepast in de praktijk?
Inkling leent zich voor compliance-gedreven organisatiecontexten waar geen gebruik kan worden gemaakt van Chinese modellen. Het kan ook worden ingezet in workflows die agentische workflows vereisen, dankzij de 74.1% score op de MCP Atlas.
