Recenti segnalazioni e denunce si scagliano contro ChatGPT sostenendo che il chatbot di OpenAI, con le sue risposte, incoraggi gli episodi di autolesionismo nelle persone con disagi mentali. OpenAI, riconoscendo l’errore, ha deciso di correre immediatamente ai ripari con importanti aggiornamenti.
ChatGPT, importanti aggiornamenti in arrivo per la salute mentale
Ormai manca davvero poco al lancio del modello GPT-5 e proprio in vista di questo importante passaggio, OpenAI sta aggiornando ChatGPT affinché il chatbot riesca, interagendo con gli utenti, a capire quando si trova davanti a disagi emotivi o mentali.
A seguito di pesanti segnalazioni che hanno evidenziato come molte persone in difficoltà siano peggiorate dopo aver interagito con ChatGPT, OpenAI non ha potuto che ammetterne i limiti. Per questo sta lavorando molto attivamente per renderla utile (come è stata fino ad oggi) ma anche sicura e più responsabile verso chi vive una situazione di disagio.
Sulla scia di quanto già avviene su piattaforme come TikTok, Instagram e Facebook e, soprattutto, dopo l’esperienza negativa di CharacterAI di Google, OpenAI introdurrà su ChatGPT una notifica che, dopo una sessione di chat particolarmente lunga, chiederà all’interlocutore di fare una pausa.
Il messaggio a video reciterà “Stai chattando da un po’, è il momento di una pausa?”. In maniera consapevole, a questo punto, l’utente potrà decidere se proseguire nella chat o se, al contrario, terminare la conversazione.
Un altro importante aggiornamento porrà fine per sempre alle risposte troppo dirette nei confronti di problemi “a rischio”. Chiedendo, ad esempio, se si dovrebbe lasciare il proprio fidanzato, ChatGPT non darà più una soluzione diretta ma fornirà, invece, una serie di possibilità che spingeranno l’utente a spunti di riflessione senza spingerlo necessariamente verso un comportamento rischioso.
