Riflessioni sull'intelligenza artificiale
Diciamo la verità, se sei un addetto ai lavori nel mondo dell’informatica, forse un po’ di disgusto per l’intelligenza artificiale cominci ad averlo.
Ormai tutto il mondo è AI powered, persino il tostapane e le sponde del letto, e guai a te se non entri in questo mondo perché ti rende così produttivo che, se ti ostini a sviluppare software nella maniera tradizionale, non puoi che restare indietro.
Il mio punto di vista su questo argomento, riassunto in una parola sarebbe: bullshit, bellissimo termine inglese per dire in modo sintetico che qualcosa è una colossale idiozia. Espandendo un po’ questa visione, ecco qualche spunto di riflessione:
- Mi piace la tecnologia e considero l’intelligenza artificiale come una famiglia di strumenti che hanno campi di applicazione molto interessanti e utili.
- Non mi piace che le aziende che producono LLM vogliano convincerci che non possiamo vivere senza di loro, specialmente nel mondo della programmazione.
- Non mi piace il loro continuo terrorismo sul fatto che ormai saremo rimpiazzati entro sei mesi dall’intelligenza artificiale, salvo spostare l’asticella di sei mesi in avanti ogni volta che questo non si verifica, magari cercando un nuovo argomento su cui fare terrorismo: la sicurezza informatica, la creazione di virus, il sistema che evade e assalta da solo un’azienda terza e le dichiarazioni di imbecilli patentati come Dario Amodei che quasi ogni settimana hanno il sentore che il loro modello abbia una coscienza.
- Non mi piace che queste aziende abbiano creato una tecnologia costosissima, con un impatto ambientale devastante, che produce un enorme quantità di spazzatura copiando senza ritegno tutto ciò che si trova su internet, senza ovviamente riconosce un centesimo a chi quel contenuto l’ha prodotto.
Gli LLM sono semplicemente macchine statistiche che bruciano miliardi di token (e una quantità immonda di Euro) per produrre una risposta verosimile ad ogni tipo di domanda, a volte in maniera corretta, altre in maniera del tutto falsa e lontana dalla realtà. Il semplice fatto che qualcuno possa fare affidamento su uno strumento del genere per creare una cosa delicata come un software le dice lunga su come siamo fatti, sempre pronti a scegliere la via più breve per il profitto anche se questo può causare danni irreparabili. E come se non bastasse c’è gente che ormai parla con ChatGPT come se fosse un amico, gli chiede consigli sulle vacanze, sugli investimenti o peggio sulla medicina, perché oggi ha un fastidioso dolore al petto e quindi quale cosa migliore che cercare di curarlo con l’aiuto di chi un petto nemmeno ce l’ha.
Io personalmente uso gli LLM solo ed esclusivamente per fare qualche domanda tecnica sulla programmazione, specialmente la ricerca AI di Google con Gemini quando proprio non ho voglia di cercare in maniera più diretta, con la consapevolezza che almeno il 50% delle volte le risposte sono sbagliate, imprecise o lontane da quello che voglio e nel restante 50% dei casi sono spesso sub ottimali o mediocri.
Per questo motivo il 100% del software che produco è scritto da me, senza l’ausilio di nessun agente che codifica, perché il mondo non ha bisogno di tonnellate di codice in più scritto in un tempo infinitesimo, ma ha bisogno di sistemi ragionati, affidabili e progettati per risolvere i nostri problemi e migliorare la nostra vita, non per arricchire a dismisura un esercito di incompetenti che propone app scritte da Claude Code che funzionano il 10% delle volte, o peggio multinazionali che vendono sistemi strategici, da cui spesso dipende la vita delle persone, e che ad un certo punto fanno errori colossali e che nessuno è più in grado di correggere perché il codice è prodotto da un esercito di bot autistici.
Inoltre l’uso di questi strumenti depotenzia le nostre capacità cognitive, ci rende meno capaci di ragionare e di risolvere i problemi, non ci fa imparare la sintassi e le sottigliezze di un linguaggio di programmazione e in ultima analisi ci rende persone peggiori, pronte ad accontentarsi della via mediana, che spesso è quella mediocre, invece di cercare le soluzioni più efficaci.
Se questo non vi basta, il vibe coding, come ormai va di moda chiamare questa insana pratica di far sviluppare software ad una macchina, trasforma un lavoro creativo e divertente in un incubo. Immaginate solo questi due scenari:
- Fare continue richieste ad un sistema stupido che continua a macinare codice senza capire niente di quello che sta producendo, cercando di determinare con quali parole vada fatta la domanda e tentando disperatamente di correggere le sue allucinazioni, quando si è in grado di accorgersene. Benvenuti nel meraviglioso lavoro del
prompt engineer, che qualcuno spaccia anche per una competenza con tanto di corso online da pagarsi profumatamente. - Fare sforzi sovrumani quando improvvisamente mesi dopo il sistema crolla senza apparente motivo per chissà quale misterioso errore che però ora è nascosto in un software che ci è alieno visto che non l’abbiamo scritto noi e che spesso contiene copia e incolla di cose che sono completamente fuori dal contesto o che magari sono semplicemente sbagliate.
E se invece avessero ragione loro? E se davvero rimanessi indietro perché tanto non sarà più importante la qualità ma la quantità? Beh a quel punto smetterò di fare questo lavoro e magari mi dedicherò a qualcosa di più sano come l’agricoltura… sempre che io sia sopravvissuto ad aerei che volano controllati da software scritti dall’IA o a centrali nucleari che funzionano supervisionate da uno sciame di agenti che magari ad un certo punto decidono che quel giorno non fa caldo e quindi è inutile raffreddare il reattore.