La Commissione europea ha recentemente pubblicato una versione aggiornata delle Living Guidelines dell’ERA sull’uso responsabile dell’IA generativa nella ricerca, offrendo raccomandazioni pratiche per ricercatori, organizzazioni di ricerca ed enti finanziatori nell’ambito dell’European Research Area (ERA).
L’aggiornamento riflette i rapidi progressi delle tecnologie di IA generativa e la loro crescente presenza nelle attività di ricerca, dalle revisioni della letteratura e dall’analisi dei dati alla scrittura di proposte, alla comunicazione, alla gestione dei progetti e ai processi di valutazione. L’obiettivo rimane chiaro: aiutare la comunità europea della ricerca a beneficiare dell’IA, salvaguardando al tempo stesso integrità scientifica, trasparenza, responsabilità e fiducia.
Perché l’IA è importante nella ricerca?
L’IA sta assumendo un ruolo sempre più rilevante nella ricerca scientifica, influenzando il modo in cui le attività di ricerca vengono progettate, svolte e comunicate. Gli strumenti di IA generativa possono ad esempio supportare i ricercatori accelerando l’accesso alle informazioni, migliorando la produttività, facilitando l’analisi dei dati e aprendo nuove possibilità per scoperte che in passato erano più difficili da raggiungere.
Per l’Europa, l’uso dell’IA nella scienza si inserisce anche in un impegno più ampio a favore dell’innovazione responsabile e dell’integrazione affidabile delle tecnologie digitali nei sistemi di ricerca e innovazione. L’approccio europeo mira quindi a valorizzare le opportunità offerte dall’IA, preservando al tempo stesso l’integrità della ricerca, la trasparenza e la fiducia del pubblico.
Allo stesso tempo, l’uso dell’IA nella ricerca solleva questioni importanti in materia di trasparenza, responsabilità, riservatezza e integrità scientifica. Le Living Guidelines aggiornate mirano ad affrontare questi aspetti attraverso un approccio pratico e basato su principi condivisi, sostenendo la comunità della ricerca nell’uso dell’IA generativa e tutelando al contempo la credibilità e l’affidabilità della scienza.
Le nuove linee guida:
Le linee guida aggiornate mantengono un formato semplice e operativo, adattando al tempo stesso i valori fondamentali dell’integrità della ricerca, come affidabilità, onestà, rispetto e responsabilità, all’attuale utilizzo dell’IA generativa.
Un elemento centrale dell’aggiornamento riguarda l’uso dell’IA da parte di soggetti esterni. Ricercatori e organizzazioni sono infatti invitati a prestare attenzione al fatto che terze parti possano utilizzare strumenti di IA durante riunioni, revisioni di documenti o processi di gestione delle informazioni, ad esempio per registrare, trascrivere, riassumere o elaborare discussioni e documenti. Questo aspetto è particolarmente rilevante quando sono coinvolte informazioni di ricerca sensibili o riservate. In questi casi, gli strumenti di IA potrebbero trattare dati senza che tutti i partecipanti siano pienamente consapevoli delle possibili implicazioni per la privacy, la protezione dei dati o i diritti di proprietà intellettuale. Le linee guida richiamano quindi l’importanza di una maggiore trasparenza e di adeguate misure di tutela quando gli strumenti di IA vengono utilizzati in contesti collaborativi o istituzionali.
Un altro aggiornamento importante riguarda il rischio dei cosiddetti “hidden prompts”, ovvero istruzioni invisibili o inserite in modo nascosto con l’obiettivo di influenzare il comportamento dei sistemi di IA. Ad esempio, tali istruzioni potrebbero essere integrate in documenti con l’intento di orientare uno strumento di IA verso una valutazione più favorevole. Questo tema è particolarmente rilevante nei processi di finanziamento e valutazione della ricerca, dove è necessario tutelare equità, indipendenza e giudizio scientifico. Le linee guida sottolineano che l’uso dell’IA non dovrebbe mai compromettere la responsabilità umana né l’integrità delle procedure di valutazione.
Il carattere dinamico delle linee guida risulta quindi particolarmente rilevante nel contesto dell’IA generativa, in cui tecnologie e pratiche di ricerca continuano ad evolversi rapidamente. Aggiornamenti regolari permettono di riflettere nuovi sviluppi, rischi emergenti ed esperienze pratiche provenienti dalla comunità della ricerca, mantenendo al tempo stesso un’attenzione costante all’integrità della ricerca, alla trasparenza e alla responsabilità. In questo modo, le linee guida continuano a rappresentare una risorsa preziosa per ricercatori, organizzazioni ed enti finanziatori.