DeepSeek markeert een potentiële verschuiving in het AI-concurrentielandschap
Portefeuillebeheerder Richard Clode bespreekt de huidige zorgen van de markt over de meest recente LLM-ontwikkelingen van DeepSeek en welke impact dit kan hebben op beleggers.
![Richard Clode, CFA](https://www.janushenderson.com/wp-content/uploads/sites/4/Headshot-thumbnail_Richard-Clode.png?w=150")
6 beknopt artikel
Kernpunten
- De innovatieve V3 LLM van DeepSeek en het op reinforcement learning gebaseerde redeneermodel R1 lijken te suggereren dat het bedrijf vooruitgang heeft geboekt bij het aanbieden van efficiëntere en kosteneffectievere AI-oplossingen.
- Dit leidt tot een herbeoordeling van AI-beleggingsstrategieën, waarbij de aandacht wordt gericht op de duurzaamheid van AI-kapitaaluitgaven, het AI-concurrentielandschap en de monetarisering van AI.
- Een selectievere benadering om de begunstigden van AI-capex te identificeren en vooruit te kijken naar de volgende fasen van AI-investeringsmogelijkheden is cruciaal nu deze nieuwe technologiegolf zich ontwikkelt.
Wat heeft DeepSeek bereikt op het gebied van LLM-innovatie?
DeepSeek, de Chinese AI-startup en ontwikkelaar van open-source grote taalmodellen (LLM's), lanceerde in december 2024 zijn derde generatie V3 LLM. DeepSeek-V3, een mix van experts (MoE)-model dat goed benchmarkt ten opzichte van de best ontwikkelde LLM's in het Westen en deze maand DeepSeek-R1, een versterkend leerredeneermodel dat goed benchmarkt ten opzichte van OpenAI's o1 generatieve pre-trained transformer (GPT). V3 maakt gebruik van een MoE-model dat verschillende kleinere modellen neemt die samenwerken met in totaal 671 miljard parameters en slechts 37 miljard actieve parameters op elk moment voor elk token tijdens het inferentie. V3 heeft verdere innovaties, zoals multi-head latent attention (MHLA) die de cache- en geheugengrootte/-gebruik verkleint, gemengde precisieberekeningen op FP8 en een herarchitectuur na de trainingsfase. Nu ziet MoE er altijd efficiënter uit omdat slechts een deel van de totale parameters op een bepaald moment actief is tijdens tokeninferentie, dus dat is niet zo verrassend, hoewel V3 er nog efficiënter uitziet, ongeveer 10x ten opzichte van peers en 3-7x gezien andere innovaties. Van het DeepSeek-R1-model wordt op unieke wijze beweerd dat het de fijnafstelling onder toezicht heeft afgeschaft. Er lijkt dus enige innovatie te zijn, ook al komen veel van de belangrijkste verbeteringen voort uit meer standaardtechnieken, terwijl er een breder debat is over hoeveel van het werk DeepSeek zelf heeft gedaan en hoeveel afkomstig is van het gebruik van open-source LLM's van derden.
3 belangrijke redenen waarom de markten zich zorgen maken over DeepSeek
1. DeepSeek blijkt aanzienlijk lagere opleidingskosten te hebben
DeepSeek beweert V3 gedurende twee maanden op slechts 2.048 NVIDIA H800 GPU's te hebben getraind, wat met 2 dollar per uur het aangekondigde totale kostencijfer van 5 miljoen dollar verklaart. Dat is een fractie van wat westerse hyperscalers naar hun LLM-opleiding gooien (bijv. het is 9% van de rekenkracht die wordt gebruikt voor Meta's LLaMA 3.1 405B-model).
2. China kan nog steeds concurreren ondanks Amerikaanse beperkingen
DeepSeek laat zien dat een Chinees bedrijf kan concurreren met de Amerikaanse best-of-breed AI-bedrijven, ondanks de huidige beperkingen op Chinese toegang tot geavanceerde Amerikaanse halfgeleidertechnologie. Dit roept herinneringen op aan een generatie Russische programmeurs, die in het post-Sovjet-Rusland beperkingen oplegde aan de pc-tijd en ingenieuze manieren uitvonden om te coderen. Is hetzelfde gebeurd in China, waar semi-restricties een grotere LLM-architectuurinnovatie hebben afgedwongen, in tegenstelling tot de VS, die er alleen maar op heeft vertrouwd om de rekenkracht naar het probleem te gooien?
3. Inkomsten genereren met AI
DeepSeek rekent aanzienlijk minder aan dan OpenAI om zijn modellen te gebruiken (ongeveer 20-40x lager), wat inspeelt op de bezorgdheid over het genereren van inkomsten met AI, gezien de buitengewone hoeveelheden capex die in het Westen worden ingezet.
Een opmerkelijke AI-kracht
Het wereldwijde AI-ecosysteem neemt kennis van de ontwikkelingen van DeepSeek. Ondanks dat DeepSeek pas twee jaar geleden (2023) werd gelanceerd, profiteert het van de stamboom en steun van het team van kwantitatief fonds High-Flyer Capital Management, evenals het succes en de innovatie van de modellen van de vorige generatie. Dit is de reden waarom, terwijl V3 in december werd gelanceerd en R1 eerder deze maand, de markt nu pas reageert omdat de redeneercapaciteiten van R1 nu als geavanceerd worden beschouwd. Bovendien werd DeepSeek afgelopen weekend de beste gratis app in de AppStore van Apple en haalde ChatGPT in. Silicon Valley-investeerder Marc Andreessen postte dat DeepSeek "een van de meest verbazingwekkende en indrukwekkende doorbraken is die ik ooit heb gezien", wat veel lof is van een geloofwaardige veteraan uit de industrie. Dergelijke opmerkingen hebben de bezorgdheid van de markt over de duurzaamheid van AI-capex en aanverwante bedrijven zoals NVIDIA vergroot.
Wat vinden we van dit alles?
- Nieuwe technologiegolven vragen om innovatie
Elke nieuwe technologiegolf vereist innovatie om de kostencurve in de loop van de tijd te verlagen om massale acceptatie mogelijk te maken. We zijn getuige van meerdere manieren van AI-innovatie om schaalproblemen aan te pakken met het trainen van LLM's en om efficiëntere inferentie aan te pakken. DeepSeek lijkt een echte innovatie te brengen in de architectuur van modellen voor algemeen gebruik en redeneren. Innovatie en het verlagen van de kosten zijn essentieel om AI te ontsluiten en massale acceptatie op langere termijn mogelijk te maken.
- Distillatie
Het model van DeepSeek maakt gebruik van een techniek genaamd destillatie, die breder wordt toegepast in de AI-industrie. Distillatie verwijst naar het uitrusten van kleinere modellen met de mogelijkheden van grotere, door de lessen van het grotere lerarenmodel over te brengen naar het kleinere studentenmodel. Het is echter belangrijk op te merken dat de distillatietechnieken van DeepSeek afhankelijk zijn van het werk van anderen. Hoe afhankelijk precies, is een belangrijke vraag waar de markt momenteel mee worstelt.
- Neem het capex-getal met een korreltje zout:
In verband met het bovenstaande vergelijken de genoemde capex-cijfers appels met peren. De genoemde 5 miljoen dollar heeft betrekking op slechts één trainingsrun, waarbij eerdere trainingsruns en de training van de grotere docentmodellen worden genegeerd, of het nu gaat om DeepSeek of de open source LLM's van derden waarop ze zijn gebouwd.
- Open source innovatie
Zoals AI-uitblinker Yann LeCun heeft opgemerkt, is dit een overwinning voor het open source-model van het stimuleren van gemeenschapsinnovatie, waarbij DeepSeek gebruikmaakt van Meta's Llama en Alibaba's Qwen open source-modellen. Ook dit is positief voor de ontwikkeling van AI op de langere termijn, omdat het innovatie stimuleert en verspreidt. Vanwege de huidige stand van de geopolitieke situatie zou men echter waarschijnlijk verwachten dat de Amerikaanse overheid meer toezicht uitoefent op andere landen die toegang hebben tot state-of-the-art AI LLM's uit de VS.
- LLM's commodificeren?
We zijn er al lang van overtuigd dat het genereren van inkomsten met LLM's op de langere termijn een uitdaging zal zijn, gezien de omvang van de concurrentie, ook van open source-ontwikkelaars en concurrenten die op alternatieve manieren inkomsten willen genereren. De aankondiging van DeepSeek brengt alleen maar meer onderzoek naar het rendement op investering (ROI) van de enorme capex die ontwikkelaars van basismodellen voor algemeen gebruik uitgeven.
Gevolgen voor beleggingen
De zorgen rond DeepSeek spelen een rol in het groeiende debat over uitdagingen op het gebied van AI-schaalvergroting, evenals de ROI van AI-capex-uitgaven, en uiteindelijk zorgen over de duurzaamheid van de inkomsten van AI-capex-begunstigden en de prijzen die de markt bereid is te betalen. We verwachten nog steeds hoge investeringen in AI-capex, zoals onlangs bleek uit aankondigingen van Meta en het Stargate AI-project. Maar we denken ook dat we selectiever moeten zijn in de bedrijven die profiteren van AI-investeringen en dat we moeten nadenken over de volgende fasen van AI-beleggingsmogelijkheden naarmate deze nieuwe technologiegolf zich ontwikkelt.
Wij omschrijven infrastructuur als de eerste fase van een nieuwe golf, gevolgd door platformen en vervolgens de software, applicaties en diensten. We naderen die ommezwaai naar de platformfase onder leiding van de cloud, maar zien ook nog steeds beleggingskansen op langere termijn in AI-infrastructuur. De markt is snel verschoven van zorgen over te hoge AI-capex naar zorgen dat AI-capex zal instorten. Beide kunnen niet tegelijkertijd gebeuren, en de waarheid ligt waarschijnlijk in het midden. Uiteindelijk denken we dat deze ontwikkelingen positief zijn voor de gezondheid en ontwikkeling van AI op de lange termijn. We blijven selectieve begunstigden van AI-infrastructuur identificeren en onze blootstelling opbouwen aan platforms die zullen profiteren van efficiëntere AI-computing, trainingsmodellen en inferentie.
Bron voor DeepSeek-informatie: https://api-docs.deepseek.com/news/news250120
AI-token: De kleinste gegevenseenheden die door een taalmodel worden gebruikt om tekst te verwerken en te genereren. Kapitaaluitgaven (capex): geld dat een bedrijf investeert in het verwerven of upgraden van vaste activa zoals gebouwen, machines, apparatuur, technologie e.d. om activiteiten te behouden of te verbeteren en toekomstige groei te bevorderen. GPT of generatieve vooraf getrainde transformatoren: een familie van neurale netwerkmodellen die gebruikmaken van de transformerarchitectuur, die generatieve AI-toepassingen zoals ChatGPT aandrijft. GPU: Een grafische verwerkingseenheid voert de complexe wiskundige en geometrische berekeningen uit die nodig zijn voor het weergeven van beelden. Ook worden deze berekeningen bijvoorbeeld gebruikt voor gaming, het maken van content en machinelearning. Inferentie of inferentie: Verwijst naar verwerking op basis van kunstmatige intelligentie. 'Machine learning' en 'deep learning' verwijzen naar het trainen van neurale netwerken. Inferentie past kennis uit een getraind neuraal netwerkmodel toe en gebruikt het om een resultaat te verwerken. Hyperscalers: Bedrijven die op grote schaal infrastructuur aanbieden voor cloud-, netwerk- en internetdiensten. Voorbeelden hiervan zijn Google Cloud, Microsoft Azure, Facebook Infrastructure, Alibaba Cloud en Amazon Web Services. LLM (groot taalmodel): een gespecialiseerd type artificiële intelligentie dat is getraind in grote hoeveelheden tekst om bestaande inhoud te begrijpen en originele inhoud te genereren. MoE (mix van experts-model): een machine learning-benadering die een AI-model opdeelt in afzonderlijke subnetwerken/experts om gezamenlijk een taak uit te voeren. Dit zorgt voor een aanzienlijke kostenbesparing en snellere prestaties voor inferentie, omdat specifieke experts worden gebruikt voor een taak, in plaats van het hele neurale netwerk voor elke taak te activeren. Open source software: code die is ontworpen om publiekelijk toegankelijk te zijn, in termen van bekijken, wijzigen en distribueren. Versterkend leren (RL): een techniek waarbij de AI leert door interactie met zijn omgeving en feedback te ontvangen in de vorm van beloningen of straffen. Hierdoor kan de AI zich aanpassen en evolueren, en zijn logische en probleemoplossende vaardigheden verbeteren. ROI (rendement op investering): is een financiële verhouding die wordt gebruikt om het rendement van een belegging te meten, berekend door de nettowinst/-verlies te delen door de initiële kosten van de investering.
Dit zijn de standpunten van de auteur op het moment van publicatie en kunnen verschillen van de standpunten van andere personen/teams bij Janus Henderson Investors. Verwijzingen naar individuele effecten vormen geen aanbeveling om effecten, beleggingsstrategieën of marktsectoren te kopen, verkopen of aan te houden en mogen niet als winstgevend worden beschouwd. Janus Henderson Investors, zijn gelieerde adviseur of zijn medewerkers kunnen een positie hebben in de genoemde effecten.
Resultaten uit het verleden geven geen indicatie over toekomstige rendementen. Alle performancegegevens omvatten inkomsten- en kapitaalwinsten of verliezen maar geen doorlopende kosten en andere fondsuitgaven.
De informatie in dit artikel mag niet worden beschouwd als een beleggingsadvies.
Er is geen garantie dat tendensen uit het verleden zich zullen doorzetten of dat prognoses worden gehaald.
Reclame.
Belangrijke informatie
Lees de volgende belangrijke informatie over fondsen die vermeld worden in dit artikel.
- Aandelen/deelnemingsrechten kunnen snel in waarde dalen en gaan doorgaans gepaard met hogere risico's dan obligaties of geldmarktinstrumenten. Als gevolg daarvan kan de waarde van uw belegging dalen.
- Aandelen van kleine en middelgrote bedrijven kunnen volatieler zijn dan aandelen van grotere bedrijven en kunnen soms moeilijk te waarderen of te verkopen zijn op het gewenste moment en tegen de gewenste prijs, wat het risico op verlies vergroot.
- Als een Fonds een hoge blootstelling heeft aan een bepaald land of een bepaalde geografische regio, loopt het een hoger risico dan een Fonds dat meer gediversifieerd is.
- Het Fonds focust op bepaalde sectoren of beleggingsthema's en kan sterk worden beïnvloed door factoren zoals wijzigingen in overheidsregulering, hogere prijsconcurrentie, technologische vooruitgang en andere ongunstige gebeurtenissen.
- Het Fonds hanteert een duurzame beleggingsbenadering, waardoor het overwogen en/of onderwogen kan zijn in bepaalde sectoren en dus anders kan presteren dan fondsen die een vergelijkbare doelstelling hebben maar geen duurzame beleggingscriteria hanteren bij de selectie van effecten.
- Het Fonds kan gebruikmaken van derivaten om het risico te verminderen of om de portefeuille efficiënter te beheren. Dit gaat echter gepaard met andere risico's, waaronder met name het risico dat een tegenpartij bij derivaten niet in staat is om haar contractuele verplichtingen na te komen.
- Als het Fonds activa houdt in andere valuta's dan de basisvaluta van het Fonds of als u belegt in een aandelenklasse/klasse van deelnemingsrechten in een andere valuta dan die van het Fonds (tenzij afgedekt of 'hedged'), kan de waarde van uw belegging worden beïnvloed door veranderingen in de wisselkoersen.
- Wanneer het Fonds, of een afgedekte aandelenklasse/klasse van deelnemingsrechten, tracht de wisselkoersschommelingen van een valuta ten opzichte van de basisvaluta te beperken, kan de afdekkingsstrategie zelf een positieve of negatieve impact hebben op de waarde van het Fonds vanwege verschillen in de kortetermijnrentevoeten van de valuta's.
- Effecten in het Fonds kunnen moeilijk te waarderen of te verkopen zijn op het gewenste moment of tegen de gewenste prijs, vooral in extreme marktomstandigheden waarin de prijzen van activa kunnen dalen, wat het risico op beleggingsverliezen verhoogt.
- Het Fonds kan geld verliezen als een tegenpartij met wie het Fonds handelt niet bereid of in staat is om aan zijn verplichtingen te voldoen, of als gevolg van een fout in of vertraging van operationele processen of verzuim van een derde partij.
Specifieke risico's
- Aandelen/deelnemingsrechten kunnen snel in waarde dalen en gaan doorgaans gepaard met hogere risico's dan obligaties of geldmarktinstrumenten. Als gevolg daarvan kan de waarde van uw belegging dalen.
- Als een Fonds een hoge blootstelling heeft aan een bepaald land of een bepaalde geografische regio, loopt het een hoger risico dan een Fonds dat meer gediversifieerd is.
- Het Fonds focust op bepaalde sectoren of beleggingsthema's en kan sterk worden beïnvloed door factoren zoals wijzigingen in overheidsregulering, hogere prijsconcurrentie, technologische vooruitgang en andere ongunstige gebeurtenissen.
- Dit Fonds kan een bijzonder geconcentreerde portefeuille hebben in vergelijking met zijn beleggingsuniversum of andere fondsen in zijn sector. Een ongunstige gebeurtenis die een impact heeft op slechts een klein aantal participaties zou tot een aanzienlijke volatiliteit of grote verliezen voor het Fonds kunnen leiden.
- Het Fonds kan gebruikmaken van derivaten om het risico te verminderen of om de portefeuille efficiënter te beheren. Dit gaat echter gepaard met andere risico's, waaronder met name het risico dat een tegenpartij bij derivaten niet in staat is om haar contractuele verplichtingen na te komen.
- Als het Fonds activa houdt in andere valuta's dan de basisvaluta van het Fonds of als u belegt in een aandelenklasse/klasse van deelnemingsrechten in een andere valuta dan die van het Fonds (tenzij afgedekt of 'hedged'), kan de waarde van uw belegging worden beïnvloed door veranderingen in de wisselkoersen.
- Wanneer het Fonds, of een afgedekte aandelenklasse/klasse van deelnemingsrechten, tracht de wisselkoersschommelingen van een valuta ten opzichte van de basisvaluta te beperken, kan de afdekkingsstrategie zelf een positieve of negatieve impact hebben op de waarde van het Fonds vanwege verschillen in de kortetermijnrentevoeten van de valuta's.
- Effecten in het Fonds kunnen moeilijk te waarderen of te verkopen zijn op het gewenste moment of tegen de gewenste prijs, vooral in extreme marktomstandigheden waarin de prijzen van activa kunnen dalen, wat het risico op beleggingsverliezen verhoogt.
- Het Fonds kan geld verliezen als een tegenpartij met wie het Fonds handelt niet bereid of in staat is om aan zijn verplichtingen te voldoen, of als gevolg van een fout in of vertraging van operationele processen of verzuim van een derde partij.
Specifieke risico's
6 beknopt artikel
Kernpunten
- De innovatieve V3 LLM van DeepSeek en het op reinforcement learning gebaseerde redeneermodel R1 lijken te suggereren dat het bedrijf vooruitgang heeft geboekt bij het aanbieden van efficiëntere en kosteneffectievere AI-oplossingen.
- Dit leidt tot een herbeoordeling van AI-beleggingsstrategieën, waarbij de aandacht wordt gericht op de duurzaamheid van AI-kapitaaluitgaven, het AI-concurrentielandschap en de monetarisering van AI.
- Een selectievere benadering om de begunstigden van AI-capex te identificeren en vooruit te kijken naar de volgende fasen van AI-investeringsmogelijkheden is cruciaal nu deze nieuwe technologiegolf zich ontwikkelt.