L’intelligenza artificiale generativa continua ad avere un problema con le cosiddette “allucinazioni”. Sebbene molte delle risposte fornite alle domande degli utenti siano in gran parte accurate, programmi come ChatGPT, Google Gemini e Microsoft Copilot tendono ancora a generare informazioni e fatti inventati. Per quanto questo sia già problematico di per sé, la situazione è ulteriormente aggravata dalla tendenza dei sistemi LLM a produrre fonti e citazioni apparentemente autorevoli, ma in realtà del tutto immaginarie. E se questo fenomeno è semplicemente fastidioso per milioni di utenti, sta diventando un problema serio per coloro che hanno il compito di fornire informazioni affidabili e reali sulle fonti letterarie e scientifiche: i bibliotecari.
«Per il nostro personale è molto più difficile dimostrare che un determinato documento non esiste», ha dichiarato Sarah Falls, bibliotecaria specializzata nel coinvolgimento della ricerca presso la Biblioteca della Virginia, alla rivista “Scientific American”. Falls stima che circa il 15% di tutte le richieste di riferimento ricevute dal suo staff sia stato redatto con l’aiuto di un’intelligenza artificiale generativa, e che alcune di queste includano citazioni e fonti inesistenti. Il carico di lavoro aggiuntivo imposto ai bibliotecari e alle istituzioni è diventato talmente gravoso che persino organizzazioni come il International Committee of the Red Cross stanno richiamando pubblicamente l’attenzione sul problema.
«Un rischio specifico è che gli strumenti di IA generativa forniscano sempre una risposta, anche quando le fonti storiche sono incomplete o non contengono alcuna informazione sull’argomento», ha avvertito l’ICRC in un comunicato pubblico diffuso all’inizio di questo mese. «Poiché il loro scopo è generare contenuti, questi sistemi non sono in grado di indicare che un’informazione non esiste; al contrario, inventano dettagli che appaiono plausibili ma che non trovano alcun riscontro nei documenti d’archivio». Invece di chiedere a un programma come ChatGPT un elenco dei rapporti dell’ICRC, l’organizzazione consiglia di consultare direttamente il proprio catalogo pubblico delle informazioni e gli archivi accademici disponibili. La stessa strategia dovrebbe essere applicata a qualsiasi istituzione. Purtroppo, finché un numero maggiore di persone non comprenderà i limiti e la fallibilità dell’intelligenza artificiale generativa, il peso di questo problema continuerà a ricadere sugli archivisti e sui professionisti dell’informazione. «Probabilmente dovremo anche informare i nostri utenti che saremo costretti a limitare il tempo dedicato alla verifica delle informazioni», avverte Falls.