I giochi nell’era dell’intelligenza artificiale

Vi ricordate le favole con il 45 giri da inserire nel mangiadischi per farle ascoltare ai bambini? “A mille ce n’è, nel mio mondo di fiabe da narrar….”, cosi iniziava ciascuna fiaba. Era il 1966 e le Fiabe sonore venivano pubblicate dalla Fratelli Fabbri Editori.

Da allora ad oggi il rapporto tra gioco e tecnologia si è decisamente rafforzato e il gioco stesso è stato modificato dalla tecnologia. Non mi riferisco ovviamente al solo mondo dei videogiochi (che iniziò ad affermarsi già negli anni 70, e che sono oggi legati a doppio filo con gli sviluppi dell’intelligenza artificiale), o dei giochi on-line e interattivi che hanno modificato il modo stesso di giocare e che migliorano costantemente le loro performance, rendendo il gioco immersivo grazie all’utilizzo di sistemi di realtà aumentata e realtà virtuale.

In realtà l’avvento dei sistemi di intelligenza artificiale applicati ai giochi modificherà in modo sostanziale l’esperienza ludica, e quindi anche formativa, a partire da fasce di età sempre minori, comportando anche dei possibili rischi.

Rischi da prevedere

I giocattoli “intelligenti” possono certamente essere utili strumenti educativi per i bambini: ma non possiamo nasconderci che comportano anche incognite, per la privacy e non solo. Rischi che in primis i produttori di giocattoli e gli esperti del settore devono saper prevedere.

Di fatto proprio l’intelligenza artificiale è l’elemento che più integrerà i giocattoli anche per i più piccoli. Al centro dei giochi che la utilizzano c'è una complessa rete di algoritmi e tecniche di apprendimento automatico. Un sistema di IA generativa (pensate a chat Gpt) può ad esempio interagire con i bambini, rispondere a domande, perfezionando nel contempo le proprie risposte.

Ci sono diversi tipi di interazioni possibili tra giocattoli e bambini: i cosiddetti “compagni” intelligenti, che utilizzando il machine learning e imparano interagendo con loro durante le attività. Poi ci sono quelli che sono progettati appositamente per muoversi o eseguire compiti prestabiliti con la finalità di insegnare ai bambini.

La tecnologia non è neutra

Ma davvero l’utilizzo di algoritmi e dell’IA generativa in questo ambito è neutro? Ci sono stati diverse produzioni di giochi di questo tipo negli anni: Quarky, ad esempio, è stato lanciato tramite il sito web di crowdfunding Kickstarter ad agosto 2021. È un giocattolo utilizzato per insegnare ai bambini a programmare e a imparare concetti base di intelligenza artificiale e robotica. In questo caso quindi siamo dinanzi all’utilizzo dell’IA come metodo ma anche oggetto dell’insegnamento.

Le storie prima di andare a dormire oggi le può raccontare un generatore di storie che usa l'intelligenza artificiale, e la tecnologia cambia così il modo di raccontare le favole. Tra queste innovazioni c’è l'app Oscar che offre storie personalizzate per bambini di ogni età consentendo di scegliere personaggi o aggiungere dettagli personali. L’app si scarica gratuitamente, anche se poi si paga per ogni storia.

Vi sono poi progetti italiani di ideazione di giochi fisici che sviluppino le abilità sensoriali e collaborazioni tra grandi aziende leader del settore, come la Clementoni, e aziende specializzate in soluzioni di intelligenza artificiale.

In campo i produttori di giocattoli

La Torinese Quercetti ha recentemente presentato Enigma, un gioco che ha l'obiettivo di spiegare le basi proprio dell’Intelligenza artificiale ai più piccoli, mentre la Mattel ha inserito l’IA in un gioco da tavola, una nuova versione di Pictionary, l’originale gioco di disegno rapido. Pictionary Vs AI, in cui il giocatore disegna e l’IA indovina l’oggetto del disegno.

Ma è evidente che maggiori sono le interazioni tra questi giochi e i bambini, maggiore è la mole di dati che vengono immagazzinati: alcuni giochi non riconoscono solo la voce di chi sta giocando ma persino le emozioni.

I giochi che non si limitano a dare indicazioni didattiche finalizzate all’apprendimento ma che interagiscono e modificano il loro comportamento a seconda della reazione del bambino o della bambina raccolgono ed elaborano dunque una notevole quantità di dati.

L’intervento del Garante della privacy

Insomma, questi smart Toys hanno già fatto intervenire il Garante della privacy che ha provato a dare indicazioni utili per limitare i danni, tipo evitare di dare loro troppe informazioni. Oppure disattivare alcuni strumenti di rilevazione, spegnere il gioco se non lo si usa perché potrebbe continuare a registrare. E magari anche non lasciare i bimbi piccoli da soli con questi strumenti e, se si vendono, ricordarsi di cancellare tutti i dati. Insomma consigli per l’uso che potete leggere nel link allegato  Alla fine, però, il Garante stesso invita gli utenti a contattarlo in caso di dubbi.

Come sempre la raccolta di dati comporta problemi. Dove sono conservati? Quali sono le policy? Che uso ne faranno i produttori Come sappiamo da tempo il tema non è la pericolosità in sé della tecnologia ma certo la trasparenza sulla detenzione dei dati, sul loro uso e, nello specifico, anche l’impatto psicologico che questa tipologia di giochi “intelligenti” può avere su bambini e bambine anche dal punto di vista relazionale.

Servono garanzie

Potrebbe essere questa la prima generazione a interfacciarsi abitualmente con strumenti di IA e questo coinvolge temi psicologici, sociologici, etici e pedagogici. Fortunatamente in Europa abbiamo una  regolamentazione sull’IA che ha un approccio basato sul rischio. L’ Ue cioè impone requisiti minimi anche per chi idea e sviluppa i giocattoli intelligenti. L’AI Act europeo richiederà dunque ai produttori di valutare l’impatto dei loro sistemi di IA rispetto a “un uso improprio ragionevolmente prevedibile”.

È bene sapere che i giocattoli intelligenti, ossia quelli abilitati all’intelligenza artificiale, che sfruttano i bambini sono del tutto vietati dal regolamento europeo sull’IA che cosi dice: “Sono vietati (…) manipolazione comportamentale cognitiva di persone o gruppi vulnerabili specifici: ad esempio giocattoli attivati vocalmente che incoraggiano comportamenti pericolosi nei bambini”.

È importante ma non basta. Serve una garanzia ulteriore rispetto all’uso delle informazioni che questi giochi “interattivi” otterranno, garanzia rispetto al fatto che non vengano utilizzate le informazioni per orientare, o meglio, indurre i consumi o, peggio ancora, formare opinioni.

Il gioco è formazione

La materia è estremamente delicata, trattandosi di utenti bambini, e dato che è assolutamente certo che il mercato investirà su un settore che promette alti margini di guadagno; alcune stime danno il mercato dei giocattoli in crescita, proprio sulla base della produzione di articoli più performanti tecnologicamente. In questo senso, e per le cose suddette, è bene provare a esplorare e prevenire i possibili rischi.

Il gioco è un momento di formazione ineludibile e la tecnologia non è neutra. Occuparsi di ciò che è e sarà, con un approccio multidisciplinare che coinvolga tutti le competenze necessarie, è improcrastinabile.

Cinzia Maiolini è segretaria nazionale della Filctem