Nel panorama attuale dell’Intelligenza Artificiale, la gestione dei pesi dei modelli è diventata un punto critico per le aziende che vogliono personalizzare le proprie soluzioni. Baseten, startup di San Francisco valutata a 2,15 miliardi di dollari, ha risposto a questa esigenza con la sua piattaforma di addestramento, promettendo di ridurre i costi fino all’84 % e di semplificare l’intera infrastruttura GPU.
La dipendenza dai modelli proprietari
Molti clienti di Baseten dipendevano da modelli proprietari per l’inferenza, ma dovevano addestrarli altrove. Questa situazione generava costi elevati e limitava la possibilità di esportare i pesi. Inoltre, i termini di servizio di alcuni concorrenti impedivano la migrazione verso ambienti proprietari, creando un blocco di ecosistema.
Blueprints: un’esperienza di apprendimento fallita
Circa due anni fa, la startup aveva lanciato Blueprints, un servizio che offriva un livello di astrazione molto alto. L’idea era di permettere agli utenti di selezionare un modello base, i dati e pochi iperparametri, lasciando al sistema il compito di produrre un modello funzionante. La realtà però era diversa: gli utenti non avevano la conoscenza necessaria per scegliere correttamente i parametri e, quando i risultati non erano soddisfacenti, attribuivano il fallimento al prodotto. Il risultato fu un servizio che si trasformò più in consulenza che in infrastruttura.
Baseten Training: la nuova proposta
Il team ha deciso di tornare a un approccio di basso livello, mantenendo il pieno controllo su codice, dati e pesi, ma eliminando le complessità operative. Baseten Training supporta addestramento multi‑nodo su cluster NVIDIA H100 o B200, checkpointing automatico, pianificazione rapida dei lavori e integrazione con il Multi‑Cloud Management (MCM) proprietario. Questo consente di allocare dinamicamente capacità GPU su diversi provider, evitando vincoli di contratto e garantendo continuità anche in caso di interruzioni.
Vantaggi concreti per le aziende
AlliumAI ha risparmiato l’84 % sui costi di addestramento, riducendo le spese da 46.800 a 7.530 $. Parsed, operante in sanità e finanza, ha dimezzato la latenza end‑to‑end e avviato oltre 500 sessioni di training sulla piattaforma. Il team di Parsed ha evidenziato come, prima di Baseten, le prestazioni erano degradate a causa di bug del fornitore precedente e la scarica dei pesi fosse complessa.
Strategia di mercato e differenziazione
Baseten si posiziona come un’azienda focalizzata sull’inferenza, ma con la capacità di offrire addestramento come servizio di supporto. La piattaforma Model APIs, lanciata insieme a Training, fornisce accesso a modelli open source come DeepSeek V3, Llama 4 e Qwen 3. Il percorso consigliato è: partire da un modello standard, personalizzarlo con Training e infine distribuirlo con Dedicated Deployments. Questa integrazione completa è ciò che differenzia Baseten da concorrenti come Replicate o Modal.
Interconnessione tra addestramento e inferenza
Il team di Baseten utilizza la piattaforma di addestramento per creare “modelli bozza” che accelerano l’inferenza tramite decodifica speculativa. Recentemente, l’azienda ha raggiunto oltre 650 token al secondo sul modello GPT OSS 120B, con un miglioramento del 60 % grazie a EAGLE‑3. Questo dimostra come il controllo su entrambi i cicli di vita del modello crei un valore difendibile.
Il panorama competitivo
Il mercato delle infrastrutture AI è frammentato: grandi cloud come AWS, Google Cloud e Azure offrono GPU, mentre fornitori specializzati come Lambda Labs e Together AI competono su prezzo. Piattaforme integrate come Hugging Face e Replicate coprono addestramento, inferenza e hosting. Baseten si differenzia grazie al suo MCM, alla profonda esperienza in ottimizzazione delle prestazioni e all’esperienza di sviluppo orientata alla produzione.
Prospettive future
Con la recente valutazione di 150 milioni di dollari, Baseten può investire su entrambe le frontiere. La roadmap include astrazioni per modelli di training comuni, espansione verso immagini, audio e video, e integrazione di tecniche come la disaggregazione prefill‑decode. Il team rimane focalizzato sul mantenere un equilibrio tra potenza e semplicità, evitando di trasformarsi in consulenti.
In sintesi:
Qual è il principale vantaggio di Baseten Training?
Riduzione dei costi fino all’84 % e semplificazione della gestione GPU.
Quali settori hanno già beneficiato della piattaforma?
Retail, sanità, finanza e servizi legali, con casi di studio di AlliumAI e Parsed.
Come si differenzia Baseten dalla concorrenza?
Offre un ciclo di vita completo con MCM, ottimizzazione delle prestazioni e focus sull’inferenza.
Lascia un commento