AI e casa smart sono una coppia pericolosa? Gli hacker hanno già preso il controllo di Google Gemini

La nostra dipendenza crescente dall’intelligenza artificiale per gestire le case intelligenti porta con sé nuove sfide di sicurezza. Una recente ricerca ha evidenziato una vulnerabilità preoccupante che permette agli hacker di prendere il controllo dei dispositivi smart home attraverso l’AI di Google Gemini. Questo metodo innovativo, noto come iniezione indiretta di prompt, sta ridefinendo il panorama delle minacce informatiche.

L’AI è un pericolo per la casa smart? L’inizione dei prompt preoccupa anche Google

Secondo quanto riportato da Wired, i ricercatori sono riusciti a violare l’assistente AI di Google Gemini utilizzando inviti di Google Calendar. Il processo era ingegnoso: quando un utente chiedeva un riepilogo del proprio calendario e ringraziava Gemini, un prompt malevolo precedentemente inserito negli inviti ordinava all’agente AI di Google Home di eseguire azioni come aprire finestre o spegnere luci. Questa dimostrazione video ha evidenziato la facilità con cui un sistema apparentemente innocuo può essere manipolato per scopi dannosi.

Google è stata informata di queste scoperte dai ricercatori già a febbraio, prima che gli attacchi fossero dimostrati alla conferenza sulla cybersecurity Black Hat. Andy Wen, direttore senior della gestione dei prodotti di sicurezza di Google Workspace, ha riconosciuto la serietà della situazione. Ha affermato che gli attacchi di iniezione di prompt “ci accompagneranno per un po’“, ma ha anche sottolineato che i casi reali di questi hack sono “estremamente rari”.

Nonostante ciò, la crescente complessità dei modelli di linguaggio di grandi dimensioni (LLM) rende queste vulnerabilità difficili da difendere, poiché i malintenzionati cercano costantemente nuove vie di sfruttamento. Wen ha assicurato che Google ha preso “estremamente sul serio” le vulnerabilità scoperte, utilizzandole per accelerare il lavoro sulla creazione di strumenti migliori per bloccare questo tipo di attacchi.