L’AI su smartphone potrebbe dare un senso ai 24 GB di RAM

Hanno senso 24 GB di RAM su smartphone? In un mondo dove molti notebook di fascia alta non vanno oltre i 16 GB di memoria, ci si chiede quanto sia utile una caratteristica del genere su un prodotto come lo smartphone, solitamente meno sollecitato in termini di funzioni avanzate rispetto ai PC. Ma di recente si è aperto un nuovo scenario che potrebbe dare un senso a uno sfoggio tale di tecnologia: l’intelligenza artificiale integrata localmente nello smartphone.

Usare l’AI su smartphone richiederà tanta memoria: basteranno 24 GB di RAM?

ChatGPT, Bard, Midjourney, Stable Diffusion, Photoshop AI, Synthesia: chiunque usa sistemi AI del genere, nella quasi totalità dei casi li utilizza in cloud, affidandosi ai server delle varie OpenAI, Google, Microsoft, Adobe e così via. E se questo è un sollievo per l’hardware e le tasche degli utenti, non lo è per le aziende che si ritrovano a spendere milioni al giorno e consumare milioni di litri d’acqua per mantenere attive le rispettive piattaforme.

Tuttavia, aziende come Meta e Qualcomm si stanno muovendo per portare l’AI in locale su smartphone per i microchip di futura generazione. Immaginate uno smartphone con SoC Snapdragon che sia in grado di generare testo, foto e video senza dover usare il cloud, con tutti i vantaggi che ne conseguirebbero: meno problemi di privacy e sicurezza, tempi di elaborazione più rapidi e possibilità di creare anche offline. Ma affinché ciò diventi possibile, è necessario un determinato avanzamento tecnologico, specialmente quando si tratta di memoria RAM.

I sistemi AI richiedono notevoli quantità di RAM per poter funzionare, dovendo memorizzare miliardi di parametri per restituire risultati che rispettino le aspettative. Un modello di linguaggio LLM come quello di Vicuna-7B, chatbot open source offline che imita GPT, è addestrato su 7 miliardi di parametri e occupa 6 GB di RAM quando eseguito su smartphone: immaginate quanta RAM servirebbe per usare un modello LLM come quello di GPT-3.5 e i suoi 175 miliardi di parametri, per non parlare degli 1,76 trilioni di parametri che usa il più avanzato GPT-4.

Ecco quindi che 24 GB di RAM non sembrano più così esagerati, anzi, in un futuro in cui gli smartphone potrebbero diventare delle vere e proprie macchine generative AI. Per il momento, quindi, difficilmente noterete un beneficio evidente dall’avere un quantitativo tale di memoria su modelli come Red Magic 8S Pro e Pro+, ma in un futuro che non sembra poi così remoto le cose potrebbero cambiare, e 24 GB di RAM e oltre potrebbero non rimanere esclusiva dei gaming phone.

⭐️ Scopri le migliori offerte online grazie al nostro canale Telegram esclusivo.