Perché l'intelligenza artificiale inventa le cose invece di dire "non so"
Un modello di lingua non cerca risposte in un database di fatti. Continua il testo come questo testo di solito continua, e lo fa molto convincentemente. Se si chiede un numero o un collegamento specifico e il modello non ha dati affidabili, produrrà ancora qualcosa di plausibile: il formato giusto, un tono sicuro e dettagli simpatici. Ecco perché non si può dire la verità dall'invenzione da come suona. Una risposta liscia, dettagliata e calma non dice nulla se è corretto. Ricordate questo: il dubbio dovrebbe accendere non quando una risposta suona strano, ma quando contiene qualcosa di controllabile e qualcosa dipende da esso.
Ciò che l'intelligenza artificiale inventa più spesso
Piccoli dettagli controllabili sono i più pericolosi. Gli articoli più frequentemente inventati sono numeri esatti e percentuali, date di eventi, nomi di persone e organizzazioni, numeri di legge e articolo, citazioni “da un libro” o “da un’intervista”, indirizzi web e titoli di documenti di ricerca, e funzioni di programma o impostazioni che non esistono. Un link a una fonte non è una prova: l'intelligenza artificiale può inventare anche quelli, completo di un nome di pubblicazione credibile e anno. Il ragionamento generale, le spiegazioni dei concetti e la riformulazione del proprio testo sono inventate molto meno spesso, quindi è dove puntare l'IA prima.
Quattro assegni che richiedono cinque minuti
Prima: chiedi la fonte e aprila tu stesso. Se la pagina non esiste o dice qualcos'altro, non usare la risposta. Secondo: trovare il valore originale. Controllare una cifra sul sito ufficiale dell'organizzazione, cercare un preventivo per le sue parole esatte in marchi di quotazione, verificare una legge sul portale ufficiale del vostro paese. Terzo: fare la stessa domanda in una nuova chat in parole diverse. Se le risposte differiscono notevolmente, questo è un segnale di avviso. Quarto: chiedere all’IA di dividere la sua risposta in “confidente” e “non sicuro, ha bisogno di controllare”. Non è una garanzia, ma mostra punti deboli. La regola principale: qualsiasi cosa si sta per pubblicare, inviare o firmare è controllato contro la fonte primaria.
Come scrivere un prompt che riduce le risposte inventate
Il modo migliore per tagliare l'invenzione non è quello di chiedere all'IA di ricordare, ma di dargli materiale. Incolla un testo, una tabella o un estratto e dica che deve rispondere solo da quello. Aggiungi il permesso per dire “il testo non dice”: molti modelli devono essere detto esplicitamente che non sapere è permesso. Chiedi risposte brevi con un preventivo dal tuo materiale, quindi ogni reclamo è facile da controllare. Non esigere “le cifre esatte dalla memoria” e non spingere quando l’IA esita: la pressione aumenta la possibilità di invenzione. Se avete bisogno di dati freschi, utilizzare una modalità con la ricerca web dove si esiste, e ancora aprire i link da soli.
Quando non devi fidarti dell'IA senza controllare
Alcuni argomenti portano un alto costo di errore: salute e medicine, domande legali e scadenze, tasse e denaro, sicurezza e tutto ciò che pubblichi sotto il tuo nome o mano a un cliente. In questi settori l'intelligenza artificiale è un aiuto per preparare domande e un progetto, ma non come fonte di una decisione. Per la salute e la legge la risposta finale viene da uno specialista, e numeri e link sono confermati da fonti ufficiali. Un'abitudine utile: prima di usare un risultato, chiediti cosa succede se è falso. Se la risposta è “niente serio”, un rapido controllo è sufficiente. Se “ci saranno conseguenze”, controllare la fonte primaria o consultare uno specialista.