24 GB di RAM sono troppi? Aspettate di vedere quanta ne serve per usare l’AI

In questi anni si è spesso parlato di intelligenza artificiale su smartphone, a volte anche a sproposito, definendo AI ciò che più semplicemente sono funzioni basiche di machine learning. D’altronde non è facile dare una definizione netta di cosa sia intelligenza artificiale o meno: quello che è certo è che con gli smartphone di nuova generazione l’AI sarà sempre più presente. Ne consegue che gli smartphone e il loro comparto hardware dovranno adattarsi ai nuovi requisiti tecnici necessari affinché tutto funzioni al meglio, specialmente con l’introduzione dell’AI in locale.

Gli smartphone con oltre 20 GB di RAM saranno sempre più comuni: merito dell’AI

Sugli smartphone odierni è già possibile utilizzare servizi come ChatGPT, Bing AI e simili, ma a un costo: quello di usarli in remoto, facendo affidamenti alle piattaforme cloud delle varie OpenAI, Microsoft e così via. Usare l’AI da remoto ha vari svantaggi: è più lenta, richiede una connessione a internet ed espone a possibili rischi di privacy. Per questo, chipmaker come Qualcomm, MediaTek e Samsung stanno realizzando System-on-a-Chip dotati di NPU dedicate a ospitare modelli AI in locale che eliminino questi limiti, accelerando le tempistiche, non necessitando di connettività e tenendo al sicuro i propri dati.

Tuttavia, gestire un’AI in locale significa avere un hardware adeguato, in quanto generare contenuti tramite intelligenza artificiale non è un’operazione semplicissima, anzi. Specialmente in termini di memoria RAM, come evidenzia il rapporto pubblicato da Macquarie e portato all’attenzione dall’insider Revegnus.

Allo stato attuale, la maggior parte degli smartphone in circolazione sono dotati di 8 GB di RAM, un taglio che finora è parso un giusto bilanciamento fra prezzo e prestazioni. Tuttavia, affinché uno smartphone sia in grado di usare in locale un’AI generativa per immagini serve che abbia almeno 12 GB di RAM, numero che sale a 20 GB qualora si desiderasse un assistente AI digitale sempre attivo.

Se finora uno smartphone con 16 o addirittura 24 GB di RAM ci sembrava esagerato, questa evoluzione AI renderà utili se non necessari tali quantitativi. Se si prende in esame un modello LLM come Vicuna-7B, che con i suoi 7 miliardi di parametri occupa 6 GB di RAM, immaginate di voler avere in locale un modello come GPT-4 che di parametri ne ha 1,76 trilioni.

Come ogni innovazione tecnologica, inizialmente l’AI in locale su smartphone sarà un’esclusiva degli smartphone più potenti, avendo questi molta più RAM dei modelli di fascia medio/bassa. Alla luce di ciò, sapere che nei prossimi mesi vedremo i primi smartphone con 32 GB di RAM assume tutto un altro senso.

⭐️ Scopri le migliori offerte online grazie al nostro canale Telegram esclusivo.