ChatGPT è il massimo diffusore di notizie false?

May 27, 2023

22 agosto 2023

ChatGPT ha preso d'assalto il mondo nel 2023. A meno che tu non abbia vissuto sotto una roccia, saprai già di cosa si tratta: un chatbot di intelligenza artificiale (AI) in grado di rispondere a domande o completare qualsiasi attività impostata (esclusi manuali, compiti della vita reale).

Di Lourens Sanders, ingegnere vendite senior presso Commvault SEEMEA

Si parla ampiamente dei vantaggi: risparmio di tempo e risorse, riduzione dei costi e creazione di contenuti innovativi, solo per citarne alcuni.

Potenziali insidie

Tuttavia sta diventando un problema sempre più evidente il fatto che ChatGPT non è sempre accurato al 100%. Se gli viene chiesto qualcosa che non sa, il chatbot ti darà con sicurezza una risposta anche se è sbagliata e, non sapendo il contrario, è probabile che la maggior parte dei consumatori ci creda. In effetti, ChatGPT si opporrà anche agli utenti che suggeriscono che sia sbagliato e spiegherà perché la risposta che ha dato è corretta.

Ciò si verifica perché ChatGPT non è come un motore di ricerca. I motori di ricerca raccolgono informazioni dai database, classificano i risultati più popolari e mostrano all'utente questi risultati affinché possa trovare la risposta che sta cercando.

ChatGPT, allo stesso modo, trova le informazioni nel suo database, ma invece di trasmetterle all'utente esattamente come le ha trovate, crea la risposta facendo una serie di ipotesi basate sui risultati. È qui che le cose hanno il potenziale per andare storto e iniziano a essere generate notizie false.

Ma non è solo la creazione di risposte da parte di ChatGPT a causare il rischio di generare fake news. Essendo un chatbot AI, ChatGPT non ha la capacità di ragionare, come fanno gli umani. Non è in grado di identificare un articolo di opinione da un articolo di notizie basato sui fatti, quindi prende tutto per valore nominale. Considerando che si stima che le notizie false costituiscano il 62% di tutte le informazioni su Internet, la probabilità che ChatGPT trovi informazioni false nella sua fase di scoperta e te le trasmetta come risposta definitiva è alta.

Inoltre, con la sua base di utenti in rapida crescita da record, è probabile che gli utenti porranno domande simili a ChatGPT e otterranno risposte simili, se non esattamente identiche. Di conseguenza, più duplicati di informazioni false potrebbero finire online. Essendo stato ripetuto e affermato così tante volte, verrà consolidato come un fatto.

Un affare rischioso

Tuttavia, ChatGPT può essere utile in una vasta gamma di reparti aziendali, dal marketing allo sviluppo del prodotto. Nel creare l'ultima campagna di marketing o nello sviluppare l'ultimo prodotto, molti dipendenti si rivolgono a Google per trovare ispirazione, magari chiedendo gli ultimi punti critici che il settore sta riscontrando in modo da poter dedicare il proprio lavoro alla risoluzione del problema. Con ChatGPT accessibile a tutti, sta rapidamente diventando uno strumento utile nella fase di generazione delle idee di nuovi progetti.

Tuttavia, come sottolineato sopra, esiste un enorme rischio che ChatGPT fornisca una risposta errata a una domanda sulla quale i team poi costruiscono un intero prodotto o una campagna. Ad esempio, ChatGPT potrebbe suggerire che un problema del settore di cinque anni fa fosse uno degli attuali punti critici del settore.

Prendendo questo come dato di fatto, un team di marketing potrebbe costruire un’intera campagna attorno a questa idea, provocando un enorme danno alla reputazione in cui l’azienda viene considerata fuori dal mondo e obsoleta. Ancora peggio, se un’azienda dovesse costruire un intero prodotto attorno a questo presunto punto dolente, milioni di rand potrebbero essere investiti in una soluzione che non è necessaria ai propri clienti. Ciò non solo avrebbe un enorme impatto sulla reputazione, ma comporterebbe anche una significativa perdita finanziaria.

Mantieni gli umani

Errori come quelli sopra elencati possono essere evitati se si affianca alla tecnologia un po’ di esperienza. Gli esseri umani non dovrebbero essere eliminati dall'equazione per il momento e tutte le informazioni fornite da ChatGPT dovrebbero essere controllate, e poi ricontrollate, da esperti del settore.

Chissà se un giorno i nostri posti di lavoro saranno completamente sostituiti dai robot ma, almeno per ora, la competenza umana è ancora essenziale nel mondo degli affari. Pensa a ChatGPT più come a un "collaboratore AI" che ti aiuta con determinati compiti e ti propone idee ma, alla fine, devi comunque fare la tua parte di lavoro.