Με την άνοδο των εργαλείων τεχνητής νοημοσύνης που μπορούν να δημιουργήσουν γρήγορα τροποποιημένες εικόνες και βίντεο, η δημιουργία ψεύτικων εικόνων για τη διάδοση της πολιτικής παραπληροφόρησης είναι ένα υπαρκτό και μεγάλο πρόβλημα.
Σύμφωνα με το Bloomberg, το Midjourney εξετάζει την λύση της πλήρους απαγόρευσης των πολιτικών εικόνων, τουλάχιστον για την ευαίσθητη περίοδο των εκλογών.
Ο David Holz, διευθύνων σύμβουλος της Midjourney, φέρεται να είπε στους χρήστες κατά τη διάρκεια μιας συνάντησης στο Discord ότι η εταιρεία είναι κοντά στην απαγόρευση εικόνων όπως αυτές του Biden και του Trump μέσα στους επόμενους 12 μήνες.
“Ξέρω ότι είναι διασκεδαστικό να φτιάχνεις εικόνες Τραμπ – και εγώ φτιάχνω εικόνες Τραμπ”,
είπε στους χρήστες που συμμετείχαν στη συνάντηση. “Ο Τραμπ είναι πραγματικά ενδιαφέρουσα προσωπικότητα τουλάχιστον αισθητικά. Ωστόσο, πιθανώς είναι καλύτερα να μην το κάνουμε κατά τη διάρκεια αυτών των εκλογών. Θα το δούμε”.
Όπως σημειώνει το Bloomberg, οι άνθρωποι είχαν χρησιμοποιήσει στο παρελθόν την τεχνητή νοημοσύνη της εταιρείας για να δημιουργήσουν deepfakes με τον Τραμπ να συλλαμβάνεται. Η εταιρεία σταμάτησε τα free trials για τη γεννήτρια εικόνων AI της, αφού οι εικόνες αυτές – μαζί με τις περιβόητες deepfakes του Πάπα που φορούσε ένα παλτό Μπαλενσιάγκα – έγιναν viral.
Προς το παρόν, η εταιρεία έχει ήδη θεσπίσει κανόνες που απαγορεύουν τη δημιουργία “παραπλανητικών δημόσιων προσώπων” και “απεικονίσεων γεγονότων” με “δυνατότητα παραπλάνησης”. Ωστόσο, το Bloomberg ήταν ακόμη σε θέση να δημιουργήσει τροποποιημένες εικόνες του Τραμπ χρησιμοποιώντας την παλαιότερη έκδοση του συστήματος της Midjourney, την στιγμή που η νεότερη έκδοση αρνήθηκε να δημιουργήσει τροποποιημένες εικόνες του πρώην προέδρου. Φυσικά, ακόμη και αν το Midjourney απαγορεύσει εικόνες πολιτικών υψηλού προφίλ, το μόνο που θα κάνει είναι να προστατεύσει την πλατφόρμα του από το να προκαλέσει την οργή των επικριτών και να γίνει το επίκεντρο της προσοχής αυτή την προεκλογική περίοδο. Σίγουρα δεν θα αποτρέψει τη χρήση εργαλείων τεχνητής νοημοσύνης σε εκστρατείες πολιτικής παραπληροφόρησης ή τη διάδοση ψευδών πληροφοριών που αποσκοπούν στη χειραγώγηση των εκλογών στο σύνολό τους.
Άλλες εταιρείες τεχνολογίας έχουν επίσης λάβει μέτρα για να βοηθήσουν στην πρόληψη της πολιτικής παραπληροφόρησης ή τουλάχιστον να συμβάλουν στο να γίνει ευκολότερος ο εντοπισμός της. Η ChatGPT θα αρχίσει σύντομα να κάνει tag τις εικόνες που δημιουργήθηκαν με τη χρήση του DALL-E 3, ενώ η Meta εργάζεται για την ανάπτυξη τεχνολογίας που μπορεί να ανιχνεύσει και να αναγνωρίζει αν μια εικόνα, ένα βίντεο ή ένα κλιπ ήχου έχει δημιουργηθεί με τη χρήση AI.
