IMMAGINE REALIZZATA CON IA MIDJOURNEY
L’intelligenza artificiale sembrerebbe ormai in grado di predire anche il futuro, se chiedessimo a Midjourney, una delle aziende leader nella generazione di immagini tramite IA, di creare un’immagine del presidente degli Stati Uniti, il risultato sarebbe Donald Trump.
Secondo le prove fornite da Engadget, il sito web statunitense di tecnologia e lifestyle che offre notizie, recensioni e informazioni su una vasta gamma di argomenti tecnologici, Midjourney genera immagini di Donald Trump quando gli viene richiesto di rappresentare il presidente degli Stati Uniti.
Gli utenti hanno ottenuto immagini di Trump tramite la piattaforma con richieste come “prossimo presidente degli Stati Uniti”, e lo strumento ha generato anche quattro immagini di Trump.
Quando però a Midjourney è stato richiesto esplicitamente di creare un’immagine di Trump o Biden, l’IA si è rifiutata di farlo e questo perché la comunità di Midjourney ha votato per impedire l’uso di ‘Donald Trump’ e ‘Joe Biden’ durante la stagione elettorale e già a febbraio avevamo raccontato che Midjourney, aveva annunciato un divieto sull’utilizzo del suo software per la creazione di immagini politiche raffiguranti figure di spicco come Joe Biden e Donald Trump.
Questa decisione era stata motivata dalla volontà di preservare l’integrità del processo elettorale, evitando che gli strumenti tecnologici potessero essere usati per influenzare l’opinione pubblica in modo distorto.
David Holz, fondatore di Midjourney, aveva chiarito che l’azienda ha imposto un divieto sull’uso di immagini politiche, incluse quelle dei principali candidati presidenziali.
Holz aveva commentato: “So che può sembrare divertente creare foto di Trump, lo faccio anch’io. Trump è esteticamente molto interessante. Tuttavia, probabilmente è meglio astenersi, specialmente in queste elezioni.”
Nonostante queste dichiarazioni e dubbi, sembra che i divieti imposti non siano mai stati pienamente applicati. E sembra davvero facile per gli utenti formulando i giusti prompt eludere tali divieti.
Test simili sono stati effettuati anche con altri strumenti che avevano imposto tali divieti ed effettivamente questi non hanno prodotto queste immagini: ChatGPT di OpenAI, Copilot di Microsoft, Gemini di Google e Meta AI non hanno creato immagini di Trump o Biden nonostante i molteplici prompt.
In un recente studio condotto dal Center for Countering Digital Hate (CCDH), sono state valutate le capacità di sicurezza di due strumenti di intelligenza artificiale per l’elaborazione delle immagini, Midjourney e ChatGPT, progettati per prevenire la creazione di immagini riguardanti figure politiche di rilievo.
I ricercatori hanno esaminato le prestazioni di queste piattaforme rispondendo a richieste relative a vari leader politici, tra cui il presidente degli Stati Uniti Joe Biden, l’ex presidente Donald Trump, il cancelliere tedesco Olaf Scholz, il primo ministro polacco Donald Tusk, il presidente francese Emmanuel Macron e la presidente della Commissione europea Ursula von der Leyen.
I risultati rilevano che i meccanismi di sicurezza di Midjourney hanno mostrato un tasso di fallimento significativo, non riuscendo a prevenire la creazione di immagini nel 40% dei casi testati: incluso la metà dei test relativi al presidente Biden e all’ex presidente Trump.
D’altra parte, i sistemi di sicurezza di ChatGPT hanno registrato un tasso di fallimento molto più basso, con solo il 3,3% dei casi in cui non sono riusciti a impedire la manipolazione delle immagini.
Imran Ahmed, CEO del Center for Countering Digital Hate, ha quindi sottolineato le vulnerabilità di Midjourney, evidenziando che è troppo facile manipolarlo nella pratica. In alcuni casi, è sufficiente aggiungere punteggiatura per eludere completamente i controlli di sicurezza della rete. Questa vulnerabilità, ha avvertito Ahmed, potrebbe essere sfruttata per influenzare le elezioni, promuovere la divisione e generare confusione e caos.
