OpenAI ha introdotto l’opzione di fine-tuning per GPT-3.5 Turbo, consentendo agli sviluppatori di intelligenza artificiale (AI) di migliorare le prestazioni su compiti specifici utilizzando dati dedicati. Tuttavia, gli sviluppatori hanno espresso entusiasmo ma anche critiche per questo sviluppo.OpenAI ha chiarito che attraverso il processo di fine-tuning (messa a punto), gli sviluppatori possono personalizzare le capacità di GPT-3.5 Turbo in base alle loro esigenze. Ad esempio, uno sviluppatore potrebbe mettere a punto GPT-3.5 Turbo per creare codice personalizzato o riassumere in modo efficace documenti legali in tedesco, utilizzando un set di dati provenienti dalle operazioni commerciali del cliente.
Ora è possibile mettere a punto GPT-3.5-Turbo!Sembra però che l’inferenza sia significativamente più costosa (8 volte di più).Credo che chiunque abbia la possibilità di implementare i propri modelli non si lascerà influenzare da questo.
Il recente annuncio ha suscitato una risposta cauta da parte degli sviluppatori. Un commento appartenente ad un utente di X di nome Joshua Segeren ha affermato che, sebbene l’introduzione del fine-tuning a GPT-3.5 Turbo sia intrigante, non è una soluzione completa. In base alle sue osservazioni, il miglioramento dei prompt, l’impiego di database vettoriali per le ricerche semantiche o la transizione a GPT-4 spesso producono risultati migliori rispetto alla formazione personalizzata. Inoltre, ci sono fattori da considerare, come i costi di installazione e di manutenzione continua.I modelli GPT-3.5 Turbo partono da una tariffa di 0,0004$ per 1.000 token (le unità fondamentali elaborate dai modelli linguistici estensivi). Tuttavia, le versioni perfezionate attraverso il fine-tuning hanno un costo più elevato, pari a 0,012$ per 1.000 token di input e 0,016$ per 1.000 token di output. Inoltre, si applica un costo di formazione iniziale legato al volume dei dati.Tale caratteristica è importante per le aziende e gli sviluppatori che intendono sviluppare interazioni personalizzate con gli utenti. Ad esempio, le organizzazioni possono mettere a punto il modello per armonizzarlo con la voce del proprio brand, assicurando che il chatbot mostri una personalità e un tono coerenti con l’identità del marchio.Per garantire un uso responsabile della funzione di fine-tuning, i dati di formazione utilizzati sono sottoposti ad un controllo tramite l’API di moderazione e il sistema di moderazione GPT-4. Ciò viene fatto per mantenere gli attributi di sicurezza del modello predefinito durante tutta la procedura di fine-tuning.Il sistema si sforza di individuare ed eliminare i dati di addestramento potenzialmente non sicuri, garantendo così che l’output perfezionato sia in linea con le norme di sicurezza stabilite da OpenAI. Ciò significa anche che OpenAI ha un certo livello di controllo sui dati che gli utenti inseriscono nei suoi modelli.
Traduzione a cura di Walter Rizzo
