Transcription

• Speaker #0

  This is your computer speaking artificial intelligence.

• Speaker #1

  State ascoltando DevTech Podcast, il podcast di prospettiva tecnologica di Arma Suisse. Prima stagione, episodio 3. Le macchine che legano il pensiero. Breve introduzione alle neurotecnologie.

• Speaker #0

  Guardatevi intorno. Quante persone conoscete che portano degli smartwatch, gli orologi cosiddetti intelligenti? Oppure che indossano annelli digitali, apparecchi per misurare le prestazioni sportive? O magari occhiali dotati di fotocamera e computer? Forse li portate anche voi. Oltre ad avere accesso a notifiche e informazioni, questi dispositivi indossati sul corpo o integrati negli indumenti Permettono di monitorare l'attività fisica, il sonno, i parametri vitali, gli stati emotivi e persino il livello di attenzione. In altre parole, offrono una migliore comprensione del nostro corpo e delle nostre menti. Sono connessi e spesso abbinati a sistemi di intelligenza artificiale e integrano anche altre tecnologie avanzate. Gli auricolari intelligenti, per esempio gli smartpads, sono ovviamente utilizzati per ascoltare musica o per telefonare, ma possono anche includere accelerometri e giroscopi per rilevare i movimenti di una persona o monitorarne la postura. Questi gadget rappresentano l'avanguardia, il primo utilizzo diffuso di un tipo completamente diverso di integrazione umano-macchina. Non più basato come abbiamo visto nelle puntate precedenti. sulle tracce digitali che lasciamo dietro di noi ogni giorno, ma sui nostri dati fisiologici e cerebrali. E mostrano la via verso la neurotecnologia personale, un campo che combina neuroscienze, ingegneria, informatica e altre discipline per sviluppare una famiglia di tecnologie progettate per interagire direttamente con il cervello e con il sistema nervoso umano. Mirano a monitorare e comprendere a migliorare le funzioni cerebrali, per esempio nel contesto della salute mentale, o per aiutare a superare le limitazioni derivanti da una paralisi. Promettono pure di permetterci di raggiungere nuovi livelli di prestazioni cognitive e fisiche e anche di aumentare la nostra produttività. Ma sollevano pure interrogativi profondi sul controllo, la manipolazione e la tutela dell'autonomia mentale. Nonostante i progressi della ricerca, capiamo ancora solo parzialmente il funzionamento dell'intelligenza umana. E ognuna delle nostre menti è un universo a sé stante, ancora in gran parte avvolto nel mistero. Negli ultimi decenni, però, tecnologie straordinarie ci hanno permesso di comprendere meglio la struttura del cervello, i processi neurali inconsci, le emozioni e anche le distorsioni cognitive. E queste conoscenze vengono adesso utilizzate per sviluppare altre tecnologie. in grado di influenzare e manipolare quegli stessi processi cognitivi per indurre pensieri e per riprogrammare lo spazio della percezione.

• Speaker #1

  e di anticipare gli sviluppi tecnologici e i loro utilizzi al servizio del Dipartimento federale svizzero della difesa, della protezione civile e dello sport, come pure del pubblico. In questa prima stagione di sei episodi, intitolata La minaccia cognitiva, ho chiesto a Bruno Giussani, specialista degli impatti sociopolitici delle tecnologie digitali, di decifrare le sfide dell'integrità cognitiva e della sicurezza. Con l'aiuto di esperti, le cui voci sono tutte state doppiate utilizzando l'intelligenza artificiale, Bruno ci guida attraverso un'esplorazione del rischio cognitivo nell'era degli schermi onnipresenti, dell'intelligenza artificiale e delle neurotecnologie. Si parlerà di meccanismi Impatti individuali e collettivi, rischi e anche, naturalmente, di possibili risposte.

• Speaker #0

  Immaginate la meraviglia di un'intenzione che si traduce in un'azione. Per esempio il fatto di controllare un computer muovendo un cursore su uno schermo, attivando delle funzioni soltanto con il pensiero. Questo è l'obiettivo dell'interfaccia cervello-computer, sviluppata per consentire il controllo di dispositivi esterni con il pensiero, senza l'uso di tastiera o di altro strumento fisico, stabilendo quindi un collegamento diretto tra l'attività cerebrale e i sistemi digitali. Esistono vari approcci, alcuni sono invasivi, come quelli dell'azienda Neuralink, che prevedono l'impianto di elettrodi nel cervello. Questi catturano l'attività neurale e trasmettono i segnali a dispositivi esterni che li traducono in comandi digitali. In questo modo le persone paralizzate possono, per esempio, giocare a scacchi o scrivere al computer. Esistono poi tecnologie non invasive, di aziende come Emotive, che utilizzano elettrodi posizionati sul cuoio capelluto per monitorare l'attività cerebrale e generare l'elettroencefalogramma di una persona. E c'è lo spazio intermedio, quello semi-invasivo, in cui non è necessario un intervento chirurgico al cervello, ma elettrodi e altri dispositivi possono essere inseriti attraverso i vasi sanguigni in prossimità dell'area di interesse. Secondo un database gestito dalla Biblioteca Nazionale di Medicina, negli Stati Uniti sono attualmente in corso 47 studi sull'interfaccia cervello-computer, mentre in Europa l'Atlante del mercato delle neurotecnologie elenca non meno di 80 aziende con prodotti già disponibili al grande pubblico e quasi altrettante in fase di pre-commercializzazione. L'arco di sviluppo di queste tecnologie, come abbiamo visto anche a proposito dell'intelligenza artificiale, è molto lungo. ci vuol tempo. La scoperta che il cervello è un sistema elettrico risale a più di un secolo fa, ma fino a tempi recenti studiare questi segnali richiedeva apparecchiature di laboratorio costose, complesse e delicate. Negli ultimi anni la curva ha accelerato e la tecnologia è uscita dai laboratori e così è ora possibile raccogliere con dispositivi relativamente poco cari una grande quantità di dati sul nostro cervello e cercare di capire cosa ci dicono. Non serve un grande sforzo per immaginare che queste interfacce possano essere utilizzate anche nella direzione opposta, per modellare attivamente l'attività cerebrale, per influenzare i pensieri e l'interpretazione della realtà, guidare le decisioni, impiantare falsi ricordi. Potenzialmente, in futuro, anche per creare esperienze del tutto credibili, sentite, toccanti, fra virgolette, vissute, attraverso però la sola modulazione. di segnali elettrici. Un esempio di come funzionano oggi queste tecnologie ce lo offre Jean-Marc Ricli, direttore dei rischi globali ed emergenti presso il Centro per le politiche di sicurezza di Ginevra.

• Speaker #2

  Pensate alle telecamere integrate in un visore per la realtà virtuale come quello lanciato da Apple lo scorso anno, che osservano e tracciano costantemente l'occhio dell'utente. Associando queste informazioni visive provenienti da stimoli esterni, ai sensori neurali installati nello stesso visore, si può correlare ciò che una persona sta guardando con l'area del cervello che viene attivata. Diventa così possibile sapere quale tipo di informazione visiva susciterà quale risposta emotiva.

• Speaker #0

  Olivier Dejeu è uno specialista svizzero di elettrotecnologia. Ha da poco pubblicato un rapporto sulla resilienza cognitiva Grazie. per conto di DevTech. Per realizzarlo ha analizzato brevetti che descrivono dispositivi che fanno parte di quello che viene chiamato IoT, l'Internet of Things, l'Internet degli oggetti connessi.

• Speaker #3

  L'analisi dei brevetti depositati mostra che tutti questi sistemi IoT sono sviluppati principalmente con intenzioni positive. Si tratta di motivi rispettabili dal punto di vista etico. Nelle descrizioni vengono spesso sottolineati i benefici per la salute o la sicurezza delle persone. Prendiamo l'esempio di un sensore di flusso nervoso in grado di allertare le persone epilettiche dell'imminenza di una crisi, o di dispositivi che monitorano la frequenza cardiaca e la pressione. Li conosciamo tutti e funzionano. In futuro, inoltre, le persone che hanno perso una funzione motoria potranno recuperarla attraverso interfacce neurali.

• Speaker #0

  Esistono anche numerose applicazioni professionali. I macchinisti del treno ad alta velocità fra Pechino e Shanghai, per esempio la linea più trafficata al mondo, indossano sensori integrati nei loro berretti per monitorare il loro stato di allerta e il livello di affaticamento. La Cina è certo all'avanguardia in queste tecnologie, ma migliaia di aziende nei settori minerario, edile e dei trasporti in tutto il mondo utilizzano già sistemi simili. Altri approcci sfruttano una tecnica di retroazione nota come neurofeedback, per permetterci di superare i nostri limiti, di avere una migliore percezione, una maggiore efficienza, concentrazione, memoria. o di aumentare le prestazioni atletiche, per esempio in termini di coordinazione motoria e di riflessi. Altri sistemi ancora sfruttano i pattern cerebrali individuali degli studenti e i loro stati emotivi per offrire un ritmo di apprendimento ottimale e diverse aziende stanno già sviluppando prodotti di questo tipo. L'intenzione positiva che sta alla base della creazione di una tecnologia, tuttavia, non ci dice nulla. di come verrà utilizzata in futuro e delle conseguenze che potrà avere. Prendiamo l'esempio degli ultrasuoni, una delle modalità di diagnostica per immagine fra le più utilizzate al mondo. Gli ultrasuoni furono scoperti quasi due secoli fa sulla base di studi sul volo dei pipistrelli e sulla propagazione del suono nell'acqua. Sono stati utilizzati, tra le altre cose, per mappare i fondi marini, per trovare il relitto. del Titanic, per individuare sottomarini nemici, effettuare lavori di pulizia industriale e persino per determinare il sesso di un feto tramite un'ecografia. Nella medicina moderna gli ultrasuoni sono considerati uno strumento diagnostico e terapeutico essenziale, ma in Cina alla fine degli anni 70 furono utilizzati per sostenere la politica del figlio unico, portando direttamente all'eliminazione di milioni di fetti di sesso femminile e a conseguenze demografiche e sociali che persistono ancora oggi. In altre parole, la discussione sui possibili campi di applicazione di un'innovazione tecnologica è sempre scivolosa. Un'azienda ottiene l'accesso alle onde cerebrali dei propri dipendenti per motivi di sicurezza, come nel caso dei macchinisti dei treni cinesi, o per monitorare i loro livelli di stress e migliorare il loro benessere mentale. Fin qui tutto bene, ma a che punto ciò sconfina nella sorveglianza o addirittura nella coercizione, diventando così un'estensione neurale di quello che oggi conosciamo negli uffici come Bossware, il software del capo. Quei sistemi che controllano le sequenze di tasti premuti, l'utilizzo di internet, catturano screenshot e persino fotografano i dipendenti per verificarne le attività e massimizzare la produttività. Un'azienda commercializza già un prodotto di origine militare il cui nome dice tutto Cognitive Command and Control Comando e controllo cognitivo Esiste un intero settore, il neuromarketing che utilizza da tempo misurazioni fisiologiche e cerebrali per comprendere le motivazioni, le preferenze e i processi decisionali dei consumatori e manipolarne le decisioni d'acquisto. Vi siete mai chiesti, per esempio, perché i film di Hollywood o alcune pubblicità sono così accattivanti? Perché sono stati sottoposti a dei neurotest? Delle persone li guardano con sensori sulla testa che misurano le loro reazioni cerebrali ed è su questa base che è fatto il montaggio finale del film. Alcuni immaginano un futuro in cui la pubblicità sarà addirittura iniettata nei sogni. Altri ipotizzano cervelli connessi all'intelligenza artificiale che sviluppano un pensiero simbiotico. Milioni di persone giocheranno presto online tramite interfacce cervello-computer o indossando visori per la realtà virtuale. Alcuni useranno il neurofeedback per aumentare la propria autostima, per promuovere uno stato mentale positivo. E poi ci sono campi emergenti come la neuroarchitettura. Essa studia il modo in cui i neuroni reagiscono a diversi ambienti fisici e quindi se sia possibile creare spazi in grado di leggere e capire tramite sistemi di sensori il livello di entusiasmo, di stress o di antagonismo delle persone che si trovano al loro interno. Sempre più questo avverrà attraverso dispositivi integrati nell'ambiente nel quale ci muoviamo, nei vestiti, negli accessori, e quindi quasi o del tutto invisibili. Su questo tema ascoltiamo ancora Olivier Dejeu.

• Speaker #3

  I sensori e gli attuatori e gli altri apparecchi che ci circondano stanno gradualmente diventando invisibili, indolori, insensibili, al punto che ce ne dimentichiamo, perdiamo la consapevolezza della loro presenza. Prendiamo l'esempio degli... earbuds, gli auricolari intelligenti. Alcune persone li indossano tutto il giorno, anche quando non li usano, al punto da non farci più caso. Oppure, un altro esempio, il leader mondiale degli apparecchi acustici ha da poco lanciato un modello che integra microprocessori con l'intelligenza artificiale. L'obiettivo è di riconoscere e filtrare il rumore di fondo per garantire una migliore qualità uditiva a chi indossa questi dispositivi acustici.

• Speaker #0

  Ovviamente dispositivi di questo tipo migliorano in modo significativo la qualità di vita dei loro utenti. Tuttavia posizionano dei microchip e dei sistemi di intelligenza artificiale praticamente invisibili vicino al cervello, in modo ottimale quindi per leggere le emozioni attraverso i segnali cerebrali.

• Speaker #3

  C'è un principio della fisica quantistica che dice che più si misura con precisione la velocità di una particella, più si perde precisione sulla sua posizione. Lo stesso vale per noi. Il semplice fatto di sapere che i nostri parametri fisiologici vengono misurati e monitorati altera già il nostro modo di funzionare. Ciò può incitare comportamenti migliori, come l'incoraggiamento a camminare almeno 10.000 passi al giorno. Ma queste tecnologie hanno tutte due facce. Possiamo immaginare che tutti questi dati vengano acquisiti da un'azienda poco etica o da un governo con intenzioni poco democratiche. che li utilizzerebbero per stabilire modelli di correlazione su cui avviare operazioni di influenza.

• Speaker #0

  Il controllo mentale è stato finora un terreno fertile, soprattutto per la fantascienza, ma diversi governi hanno tentato in vari momenti di sviluppare queste capacità e applicazioni specifiche sono facilmente immaginabili, per esempio di trovare il modo per identificare gli individui attraverso i loro schemi cerebrali unici, quella che potremmo chiamare la loro firma cognitiva. La ricerca sta avanzando non solo su come decodificare e leggere pensieri e ricordi, ma anche su come modificarli e come iniettarne di nuovi. L'attività cerebrale, a breve termine, può già essere modificata, utilizzando tecnologie come la stimolazione magnetica transcranica. Questo metodo induce un campo elettrico che altera l'attività dei neuroni presi a bersaglio e ciò può aiutare i pazienti, per esempio, a uscire da uno stato depressivo. Per cambiamenti più profondi la sfida è quella della precisione perché naturalmente ogni cervello è fisicamente diverso da ogni altro. Intervenire su di essi richiede quindi metodi altamente specifici e qui le interfacce invasive hanno un vantaggio poiché sono essenzialmente una rete di fili impiantati direttamente nel cervello. Il che significa però che dal punto di vista della libertà personale sono potenzialmente più problematiche. Anche i sistemi non invasivi possono indurre passivamente nuovi schemi di attività cerebrale. Un interessante studio questo proposito è stato condotto nel 2024 da ricercatori di tre università americane Rochester, Yale e Princeton. Utilizzando un dispositivo di risonanza magnetica funzionale e un sistema di neurofeedback, sono riusciti a iscrivere nuove informazioni nel cervello dei partecipanti come se le avessero apprese, ma senza alcuno sforzo di apprendimento cosciente. Secondo i tre ricercatori, questo meccanismo di feedback ha scolpito efficacemente l'attività cerebrale dei partecipanti, guidandola verso il modello desiderato. Metodi come questo potrebbero aiutare ad accelerare l'apprendimento, poiché non richiedono alcuno sforzo, alcuno studio, nessuna pratica. Potrebbero anche essere utilizzati in riabilitazione, per esempio per aiutare i pazienti vittime di un ictus a recuperare le loro funzioni cerebrali. Ma è evidente che queste ricerche e altre simili aprono anche la strada a utilizzi meno benigni. Nita Farahani, professoressa di diritto all'Università Duke, ha analizzato l'argomento in dettaglio nel suo libro The Battle for Your Brain, la battaglia per i nostri cervelli del 2023. Ne abbiamo tradotto e adattato alcuni passaggi.

• Speaker #4

  La promessa di queste tecnologie di aiutare le persone a vivere una vita migliore mi entusiasma. Esse raccolgono dati sul nostro cervello per aiutarci a diventare più veloci, più efficienti, più sicuri e più sani. Saremo quindi motivati a condividere i dati che derivano della nostra attività cerebrale e, individualmente e collettivamente, potremo trarre grandi benefici da ciò che questi dati ci riveleranno. Ma c'è un rovescio della medaglia, un vaso di Pandora che non mi lascia dormire. Nulla, nelle leggi o nei trattati internazionali, conferisce agli individui una sovranità, anche solo rudimentale, sul proprio cervello. Non è per subito, ma ci stiamo rapidamente dirigendo verso un mondo di totale trasparenza cerebrale, in cui i progressi della neurotecnologia consentiranno a scienziati, medici, governi e aziende e di scrutare a piacimento i nostri cervelli e le nostre menti. E temo che in un futuro ormai prossimo rinunceremo volontariamente o involontariamente al nostro ultimo baluardo di libertà, la nostra privacy mentale. Temo che cederemo l'accesso alla nostra attività cerebrale a entità commerciali in cambio di sconti, libero accesso ai social o persino come condizione per mantenere il nostro impiego. La neurotecnologia potrebbe diventare un requisito nelle aziende e nelle scuole. Niente braccialetto o niente apparecchio che ci scruta, uguale niente lavoro. Bisogna dire per chiarezza che i dati in sé non sono la stessa cosa dei nostri pensieri e delle nostre emozioni. Ma gli algoritmi di apprendimento automatico stanno diventando sempre più capaci di tradurre l'attività cerebrale in ciò che sentiamo, vediamo, immaginiamo o pensiamo. Scegliendo di utilizzare questi dispositivi, rischiamo di rivelare molto più di quanto previsto.

• Speaker #0

  Se utilizzate correttamente quindi queste tecnologie, possono portarci benefici individuali e collettivi innegabili. Possono aumentare la sicurezza, migliorare l'attenzione e le prestazioni, ma influenzano fondamentalmente la nostra libertà cognitiva, il nostro diritto all'autodeterminazione sul nostro cervello e sulle nostre esperienze mentali. Spesso la nostra attività cerebrale inizia a cambiare prima che ce ne accorgiamo, ad esempio quando subentra uno stato depressivo o ansioso. Cosa succederà allora quando le macchine controllate da aziende o da governi potranno sapere cosa stiamo pensando prima ancora che lo pensiamo? Qui arriviamo a una questione centrale della neurotecnologia, l'importanza di capire che i dati cerebrali sono molto sensibili e che è necessario definire con cura chi possa raccoglierli e utilizzarli e come. Perché non si tratta soltanto, come queste tecnologie promettono, di aumentare le nostre capacità, ma anche di proteggerle, di garantire che esse ci aiutino a migliorare la nostra comprensione e i nostri processi decisionali senza permettere ad organizzazioni di vario tipo di decidere al posto nostro. E soprattutto si tratta di impedire che l'aumento artificiale delle nostre capacità cerebrali ci indebolisca come esseri umani, rendendoci quindi più vulnerabili alla manipolazione. Tutto questo può sembrare un po' astratto. Ecco quindi come la ricercatrice in etica della tecnologia Nicoletta Iacobacci riassume la sfida che ci troviamo ad affrontare.

• Speaker #5

  Le grandi aziende tecnologiche, in particolare americane e cinesi, puntano a creare forme di intelligenza artificiale generale, ovvero sistemi in grado di imitare il pensiero umano. Allo stesso tempo, il cervello, la parte più complessa del corpo umano, a lungo considerata incomprensibile, sta iniziando a svelare i suoi segreti. Dobbiamo analizzare e mettere in discussione seriamente la convergenza di queste due linee di sviluppo. che porterà alla nascita di una macchina che ci supererà sia in termini di velocità e potenza di calcolo, sia in termini di conoscenza dettagliata dei nostri schemi mentali ed emotivi. Sarà un cervello collettivo, una sorta di superintelligenza che abbiamo tutte le ragioni di temere, ma che stiamo contribuendo a creare giorno dopo giorno.

• Speaker #0

  Come l'ha scritto Nita Farahani? Tutto ciò non accadrà domani mattina, ma la tecnologia avanza a un ritmo molto rapido, plasmando il futuro con il quale dovremo confrontarci. Diventa quindi essenziale riflettere sulla nostra resilienza e robustezza cognitiva. Ciò che faremo nei prossimi episodi. Nella quarta puntata affronteremo un argomento del quale non abbiamo ancora parlato, la guerra cognitiva. Ma per oggi ci fermiamo qui. Sono Bruno Giussani e questo è il DevTech Podcast. Grazie per il vostro ascolto.