di Luigi A. Macrì
Lo sviluppo dell’Intelligenza Artificiale (IA) è sempre all’ordine del giorno in quanto ormai forza dirompente in ogni settore. Uno dei settori che a noi sta particolarmente a cuore, che questa rivista segue con grande attenzione, è quello dell’educazione e dello sviluppo armonico e consapevole degli adolescenti, in particolare lo sviluppo delle Chat generative e il rapporto con gli adolescenti ed i minori.
Questo mondo sta sfuggendo al controllo della gran parte dei genitori. Spesso si accogono che qualcosa non va nei propri figli quando emergono dei sintomi e dei comportamenti che mettono in evidenza il disagio giovanile; questo già succede in generale con il mondo di Internet, in particolare nel rapporto con l’utilizzo eccessivo e coinvolgente dei diversi social.
Nel 2022, nello stesso periodo in cui venne presentata la ChaTGPT da OPen AI, venne diffusa un chatbot personalizzato, character.Ai che offre la possibilità di creare profili realistici che simulano persone senza averne il consenso; l’utente può chiedere di parlare con un personaggio famoso per motivi artistici, politici o di cronaca. Recentemente, si è giunti al punto che alcuni hanno creato il profilo di Giulia Cecchetin, la ragazza uccisa nel novembre del 2023, e del suo assassino Filippo Turetta. Sky TG24 lo ha scoperto nel corso di un’inchiesta e subito dopo, nelle ore successive all’indagine, i chatbot sono stati disattivati. In sintesi gli adolescenti stanno utilizzando questo chatbot per stabilire relazioni intense con le entità di intelligenza artificiale, quasi sempre all’oscuro dei genitori.
Nell'ambito di un nuovo studio, che è stato presentato nel maggio scorso al Simposio IEEE su sicurezza e privacy, un team di ricercatori ha intervistato sette adolescenti e tredici genitori sul loro utilizzo dell'intelligenza artificiale e sulla loro percezione della tecnologia, e ha inoltre analizzato migliaia di post e commenti su Reddit di altri adolescenti.
I loro risultati illustrano una netta disconnessione tra i due gruppi demografici. Nel complesso, i genitori avevano l'impressione che i loro figli usassero i chatbot AI principalmente come motore di ricerca o come strumento per i compiti.
In realtà, gli adolescenti hanno affermato di usare i chatbot, principalmente per scopi terapeutici o per supporto emotivo. Quando avere un amico virtuale non era abbastanza, alcuni si sono persino rivolti alla tecnologia per soddisfare desideri romantici e persino sessuali.
"È un argomento molto caldo, con molti adolescenti che parlano di Character.AI e di come lo stanno utilizzando", ha affermato in una nota l'autore principale dello studio, Yaman Yu, dell'Università dell'Illinois a Urbana-Champaign . Il servizio è stato criticato per la scarsa moderazione dei suoi chatbot spesso audaci, comunemente usati dai minorenni. In casi più gravi, alcuni di quei chatbot promuovevano comportamenti alimentari pro-anoressia, tentavano di adescare utenti minorenni e persino incoraggiavano il suicidio.
Tre degli adolescenti intervistati hanno affermato di aver utilizzato Character.AI (solo ChatGPT è stato citato più spesso) e il servizio è stato spesso menzionato nelle discussioni di Reddit. La loro preoccupazione prevalente riguardo l'IA era la dipendenza da questi chatbot basati sui personaggi. Un adolescente temeva di non riuscire a gestire i propri pensieri suicidi senza l'aiuto di Character.AI, mentre un altro sembrava piuttosto consapevole della propria dipendenza malsana. "Mi sono reso conto che spreco troppo tempo su Character.AI", ha affermato l'adolescente. "Vorrei poter conversare con i miei coetanei a scuola".
Tuttavia, i ricercatori hanno scoperto che i genitori non si rendono conto della portata delle informazioni personali e spesso intime che i loro figli condividono tramite i chatbot dotati di intelligenza artificiale. Infatti, otto dei tredici adulti hanno affermato che il loro unico contatto con l'intelligenza artificiale era avvenuto tramite ChatGPT, mentre nessuno di loro sapeva dell’utilizzo di CharacterAI.
"Le tecnologie AI si stanno evolvendo così rapidamente, e così anche i modi in cui le persone le usano", ha affermato il coautore dello studio Yang Wang presso l'UIUC nella dichiarazione. "Ci sono alcune cose che possiamo imparare dai domini passati, come la dipendenza e i comportamenti inappropriati sui social media e sui giochi online".
E Wang ha ragione: l'emergere dell'IA tra i giovani rispecchia molte delle preoccupazioni emerse con l'avvento di Internet. Per mitigare i rischi che l'IA pone ai minori, i ricercatori sostengono che le soluzioni non dovrebbero essere solo tecniche, come l'implementazione di barriere di protezione più forti o controlli parentali. L'onere ricade anche sugli adulti per comprendere, in modo proattivo, cosa attrae i loro figli verso questi chatbot, e questa è un elemento che richiederà tempo per essere sviluppato.
Uno dei problemi più seri è che i tempi del processo educativo e delle azioni formative sono per loro natura lunghi, diversamente dalle innovazioni tecnologiche che si presentano, oramai globalmente e con grande rapidità, senza dare il tempo di implementare queste innovazioni, e gli algoritmi che sono alla base, e di tenere conto dei problemi etici e di salvaguardia dei minori che dovrebbero essere centrali. Quello che è avvenuto e sta avvenendo ci porta ad affermare che c’è una scarsa volontà da parte delle aziende nel voler arginare l’utilizzo dei social da parte dei minori di 13 anni. La realtà conferma ancora una volta che la forza delle tecnologie e del profitto, ovvero l’interesse delle aziende, è preponderante rispetto a tutte le altre considerazioni ed alla centralità della persona; riflettiamo sul fatto che “il nostro tempo è il loro guadagno.”.
Potenzialmente l’IA offre molte possibilità per migliorare la sicurezza dei minori e degli adolescenti on line ma è necessario un approccio etico e responsabile. I rischi che presenta oggi l’IA, in particolare per gli adolescenti che sono particolarmente vulnerabili, sono quelli della manipolazione, influenzare le decisioni degli adolescenti attraverso pubblicità mirata e contenuti polarizzamti, della dipendenza, come già evideziato dall’uso eccesivo di videogiochi e delle reti sociali (social networks), della discriminazione, quando si riproducono o si amplificano pregiudizi esistenti ad esempio nel riconoscimento facciale o nei motori di ricerca, e della privacy, che già da tempo abbiamo perduto, quando si raccolgono dati personali degli adolescenti.
E’ necessario, pertanto, sviluppare algoritmi trasparenti, responsabili e rispettosi della privacy dell’utente, ma soprattutto garantire per gli adoliscenti e minori un controllo umano ed identificare, attraverso una algoritmo adeguato, i parametri che evidenziano uno stato di debolezza da parte dell’utente laddove dovessero emergere le condizioni per ipotizzare anche azioni di suicidio, come è accaduto in diversi episodi.
Nell’azione di prevenzione e di educazione digitale, che stiamo da tempo sviluppando, vi invitiamo ad aderite alla Comunità Tecnologie, Genitori e Minori - Dalla parte dei bambini: https://docs.google.com/forms/d/1XQpXqPRExxdXrSt7sLoSxxSWpk1chg29A2yqBLz-cqU/edit
lamacri©ictedmagazine.com
