AI e design: velocità e consapevolezza

Tre mesi dopo l’uscita delle prime versioni di ChatGPT, lo scrittore (e informatico) Ted Chiang scrisse un interessante articolo per il New Yorker dove spiegava cos’era un large language models. Era febbraio 2023.

Avevo condiviso l’articolo di Ted Chiang sul mio sito, segnalando soprattutto le parti in cui usava la metafora della JPG, compressa e sfocata, per spiegare il meccanismo con il quale ChatGPT (e simili) generavano testi, frasi e articoli.

Nell’articolo, Ted Chiang parlava anche di un altro aspetto, legato alla scrittura nello specifico: l’importanza delle prime bozze. Le prime bozze di un testo aiutano a pensare, «a volte, è proprio durante il processo di scrittura che si scoprono idee originali»¹.

La tua prima bozza non è un’idea poco originale espressa chiaramente; è un’idea originale espressa male, ed è accompagnata da una vaga insoddisfazione, dalla consapevolezza della distanza tra ciò che dice e ciò che vorresti dicesse. È proprio questa insoddisfazione a guidarti nella riscrittura — ed è una delle cose che mancano quando parti da un testo generato da un’AI.
– Ted Chiang, New Yorker (2023)

Mi è venuto in mente quest’articolo leggendo un altro articolo, This is not a pipe: UX, AI, and the risk of satisficed product design di Mike Schindler.

Schindler scrive che in passato faceva spesso prototipi in HTML-CSS, non perché amasse particolarmente scrivere codice, ma perché gli importava della qualità di quello che progettava. Era una forma di craft: «esecuzione consapevole, affinata nel tempo».

Oggi, strumenti come Figma Make (o Lovable o V0 o Google Stitch) promettono «prototipi alla velocità del pensiero», ma «con la grande velocità arriva un grande rischio — forse per i nostri utenti e per i nostri standard conquistati a fatica», scrive ancora Schindler.

Schindler usa la famosa pipa di Magritte per ricordarci che un mockup non è il prodotto: «wireframe, mockup, user flow… sono tutti sostituti di esperienze future. Eppure team e stakeholder li trattano spesso come prodotto finale. Aggiungete l’AI e l’illusione si amplifica»

Quando un’interfaccia generata da un’AI appare autentica e cliccabile, è pericolosamente facile accettarla per buona. Ma cosa succede se si basa su presupposti sbagliati? E se riflette schemi che non rispondono davvero ai bisogni degli utenti? E se dà semplicemente l’idea di essere finita, pur non avendo ancora alcun valore reale?
— Mike Schindler, UXDesign.cc (2025)

Con l’arrivo di nuove tecnologie, mi pare sia abbastanza ciclico confondere efficienza con valore. Complice una lettura recente, Technopoly di Neil Postman, la riflessione di Schindler mi ha fatto pensare che non tutti beneficiano allo stesso modo di queste innovazioni. Nel caso delle AI legate al design, chi già sa come funziona un design, un sito un’app riesce a sfruttarle davvero. Per chi è alle prime armi, invece, cresce l’illusione (il vibe) di aver capito come funziona, aumentando il rischio di accontentarsi di quello che si genera in automatico.

È solo una sensazione, che magari cambierà col tempo. La mia, come la vostra. Cambierà perché, come scrive Neil Postman, una nuova tecnologia non si limita ad aggiungere o togliere qualcosa: finisce per cambiare tutto, riflettendo in un certo senso la visione del mondo di quella tecnologia.

Le nuove tecnologie alterano la struttura dei nostri interessi: le cose a cui pensiamo. Esse alterano il carattere dei nostri simboli: le case con cui pensiamo. Infine alterano la natura della comunità: il terreno in cui si sviluppano i pensieri.
— Neil Postaman, Technopoly (1992)