lo so, hai ragione. Infatti è una tecnologia acerba ma in fortissima evoluzione e questo lo stiamo vedendo. In ogni momento è opportuno per noi sapere come funzionano e cosa aspettarsi da essi, cercare di precisare bene l'input, contestualizzarlo e fare le opportune verifiche anziché fidarsi ciecamente, cosa non possibile ed è evidente. Ma questo se ci pensi è piuttosto normale, anche con la calcolatrice o con Excel se sbagli a digitare qualcosa, il risultato poi può essere completamente sballato e il software mica te lo viene a dire! Quindi sta a te evrificare e validare il risultato. Ciò non toglie che, con l'evoluzione di questi software, essi diventeranno comunque più accurati e attendibili.
user1972 gli aspetti "inquietanti" sono: le allucinazioni! Ovvero non tanto la risposta poco accurata (diciamo pure sbagliata), quanto proprio le cosiddette "allucinazioni", che sono le risposte completamente fuori contesto e anche ridicole o spaventose, per forti malfunzionamenti, malinterpretazioni, bug del software che va a pescare "a caso" dal proprio database. La cosa peggiore mi era accaduta con YouChat di You.com che, parlando di linguaggi di programmazione (cercavo alcuni consigli specifici su algoritmi e parti di codice) per qualche strana ragione mi ha poi detto che il narcisismo patologico rientra nella psichiatria e che è opportuno contattare un professionista esperto; poi mi ha linkato un pdf della polizia di stato. Ok, diciamo pure che era andato in tilt 😅
Riguardo al tema delle allucinazioni dell'IA, è stato sviluppato un tool che sfrutta proprio questo:
DreamGPT: IA da sogno, con funzionamento... al contrario! Ma interessante!
