Scleri da Università

ChatGPT

Disclaimer: questo capitolo si basa sulle mie conoscenze piuttosto parziali sull'argomento.

Per chi vivesse sulla Luna o non sapesse che cosa sia ChatGPT, si tratta di una forma di intelligenza artificiale piuttosto primitiva che è capace di:
- interagire con l'utente umano come se fosse un essere umano
- risolvere problemi basilari (ad esempio equazioni)
- formulare frasi e testi di senso compiuto più o meno lunghi e articolati
- riassumere testi e libri interi
- altre cose molto smart

In facoltà abbiamo parlato di ChatGPT per la prima volta ad ottobre, durante un seminario molto poco interessante su Rappresentazione Dati.

All'epoca non era ancora così famoso - soprattutto in Italia - e il relatore si è soffermato più che altro sulla struttura dati dietro un algoritmo del genere.

Ed è qualcosa di mostruoso: riesce a memorizzare, rielaborare e riproporre qualsiasi cosa gli sia dato in input. E con qualsiasi cosa intendo qualsiasi cosa, compresi dati molto complessi e sensibili.

Tanto che già ad ottobre abbiamo fatto diverse domande sulla possibilità che un mostro del genere potesse essere usato per fini illeciti senza che gli utenti lo sapessero.

La risposta ci ha portato via mezzo seminario (due ore), ma può essere riassunta così: con una roba del genere e un utente ignaro puoi fare di tutto, compreso prendere dati sensibili (nome, cognome, età, etc.) e spedirli dove ti pare.

Sto pubblicando questo capitolo perché ultimamente ho sentito molte notizie su ChatGPT, furto di dati e chiusure generali in giro per il mondo.

Non dico che ChatGPT sia pericoloso, capiamoci: credo che, se ben usato, possa essere molto utile (soprattutto per copiare a scuola).

Però è un progetto in fase beta, quindi:

- i programmatori stanno ancora cercando di capire come ottimizzare l'algoritmo, quindi ci sono falle nel sistema e l'algoritmo non è affidabile

- non esiste ancora una legislazione per questo genere di cose, quindi chiunque potrebbe abusarne senza alcun problema

- non sappiamo esattamente come vengono trattati (perché i dati vengono sempre trattati in qualche modo, sappiatelo) i dati forniti a ChatGPT, pertanto non inserite informazioni riconducibili a voi

Date retta a Narnia vostra, che io qua sto combattendo con gli algoritmi per i GPS e voglio spararmi, quindi immaginate cosa può essere un mostro del genere.

Non voglio spaventarvi, ma occhio, okay?

Da qui è tutto, passo e chiudo.