Generatieve AI-uitdagingen: Waarom veel initiatieven gedoemd zijn te mislukken

De hoge kosten van implementatie

Volgens nieuw onderzoek van analistenbureau Gartner zal tegen het einde van 2025 minstens 30% van de generatieve AI-bedrijven die momenteel worden getest, na proof of concept worden opgegeven. De statistieken werden bekendgemaakt tijdens Gartner’s Data & Analytics Summit in Sydney, Australië. Gartner ontdekte dat vroege gebruikers van generatieve AI worstelen met escalerende kosten. De kosten van implementaties kunnen variëren van $5 miljoen tot $20 miljoen. Bijvoorbeeld, het ontwerpen van een op maat gemaakt generatief AI-model, zoals het finetunen van een Llama-model op industriespecifieke data, kost een bedrijf $5 miljoen tot $6 miljoen vooraf en tot $11.000 aan terugkerende kosten.

De financiële last

Het creëren van een nieuw model zou wel 20 miljoen dollar kosten. Zelfs het opzetten van een eenvoudige zoekfunctie voor documenten via retrieval augmented generation (RAG) kost meer dan 750.000 dollar. Daarom hebben bedrijven moeite om investeringen in generatieve AI te rechtvaardigen vanwege de aanzienlijke financiële middelen die nodig zijn. Het analistenbureau merkte op dat generatieve AI een hogere tolerantie vereist voor indirecte, toekomstige financiële investeringscriteria versus onmiddellijke return on investment (ROI). Na de hype van vorig jaar zijn leidinggevenden ongeduldig om rendement te zien op generatieve AI-investeringen. Organisaties worstelen echter met het bewijzen en realiseren van waarde.