Tre settimane fa Google ha lanciato una nuova funzione di generazione di immagini per Gemini, che includeva la possibilità di creare immagini che ritraggono persone.

È chiaro che questa funzione non ha centrato l’obiettivo, dato che alcune delle immagini generate erano imprecise o addirittura offensive.

Google ha riconosciuto l’errore e ha messo temporaneamente in pausa la generazione di immagini di persone in Gemini.

Cos’è successo

Google ha creato la funzione di generazione immagini in Gemini in modo tale da garantire che non ricapitassero errori già accaduti in passato, come la creazione di immagini violente, sessualmente esplicite o la rappresentazione di persone reali.

Tuttavia, se avessimo richiesto la generazione di un’immagine, probabilmente, Gemini ci avrebbe mostrato persone di un solo tipo di etnia, anche se avessimo voluto riceverne di etnie diverse.

Cosa è andato storto?

In primo luogo, Gemini è stato addestrato in modo tale che mostrasse una gamma di persone di etnie differenti. Tuttavia, non sono stati presi in considerazione tutti quei casi in cui non avrebbe dovuto mostrare altre tipologie di etnie rispetto alla richiesta iniziale.

In secondo luogo, il modello è diventato molto più cauto e si è rifiutato di rispondere del tutto ad alcune richieste, interpretandole come sensibili senza apparente motivo.

Questi due fattori hanno portato l’algoritmo a compensare eccessivamente in alcuni casi e a essere troppo conservativo in altri, dando vita a immagini imbarazzanti e sbagliate. Gemini, ad esempio, si è rifiutato di creare immagini di un gruppo particolare di individui o ha creato immagini storiche o di altro tipo in modo non accurato.

Cosa accadrà adesso a Gemini

Al momento la generazione di immagini di persone è disattivata, ma Google è già al lavoro per riattivarla dopo una serie di test approfonditi.

Per noi utilizzatori è importante ricordare che tutti gli strumenti di AI possono commettere errori e non essere sempre affidabili, soprattutto quando si tratta di generare immagini o testi su fatti attuali o notizie in corso di evoluzione.

Per questo è importante verificare sempre sul web le risposte che ci forniscono facendo una semplice ricerca su Google o altro motore di ricerca.