Η Midjourney βάζει τέλος στην ελεύθερη χρήση της γεννήτριας εικόνων AI που έχει εξελίξει, αφού κάποιοι κατάφεραν ήδη να καταχραστούν το εργαλείο αυτό με deepfakes.
Ο διευθύνων σύμβουλος David Holz αναφέρει στο Discord ότι η εταιρεία τερματίζει τις δωρεάν δοκιμές λόγω “εξαιρετικής ζήτησης και κατάχρησης της δοκιμαστικής υπηρεσίας”.
Οι νέες δικλείδες ασφαλείας δεν ήταν “επαρκείς” για την αποτροπή της κατάχρησης κατά τη διάρκεια των δοκιμαστικών περιόδων, λέει ο Holz. Έτσι για την ώρα αν ενδιαφέρεστε θα πρέπει να πληρώνετε τουλάχιστον 10 δολάρια το μήνα για να χρησιμοποιήσετε την τεχνολογία.
Όπως εξηγεί η Washington Post, το Midjourney βρέθηκε στο επίκεντρο ανεπιθύμητης προσοχής τις τελευταίες εβδομάδες. Βλέπετε διάφοροι χρήστες βασίστηκαν στην τεχνητή νοημοσύνη της εταιρείας για να δημιουργήσουν deepfakes του Ντόναλντ Τραμπ να συλλαμβάνεται και του Πάπα Φραγκίσκου που φοράει ένα trendy παλτό.
Αν και οι εικόνες αναγνωρίστηκαν σχεδόν αμέσως ως ψεύτικες, υπάρχει ανησυχία ότι οι κάποιοι μπορεί να χρησιμοποιήσουν το Midjourney, το DALL-E της OpenAI και παρόμοιες γεννήτριες για τη διάδοση παραπληροφόρησης.
Η Midjourney έχει παραδεχτεί ότι αντιμετωπίζει προβλήματα στη θέσπιση πολιτικών σχετικά με το περιεχόμενο.
Βέβαια κάποιοι προγραμματιστές έχουν καταφύγει σε αυστηρούς κανόνες για να αποτρέψουν περιστατικά. Το OpenAI, για παράδειγμα, αποκλείει κάθε εικόνα με τρέχοντα πολιτικά γεγονότα, θεωρίες συνωμοσίας και πολιτικούς. Απαγορεύει επίσης το μίσος, τη σεξουαλικότητα και τη βία. Ωστόσο, άλλοι έχουν σχετικά χαλαρές κατευθυντήριες γραμμές. Η Stability AI δεν αφήνει τους χρήστες του Stable Diffusion να αντιγράφουν στυλ διαφόρων καλλιτεχνών ή να φτιάχνουν ρεαλιστικές εικόνες celebrities ή πορνογραφικό υλικό.
Το παραπλανητικό περιεχόμενο δεν είναι το μόνο πρόβλημα στην παραγωγή εικόνων με AI. Υπάρχουν σοβαρές ανησυχίες και για κατάχρηση πνευματικών δικαιωμάτων, καθώς συχνά τα εργαλεία αυτά χρησιμοποιούν υπάρχουσες εικόνες ως σημεία αναφοράς. Έτσι ενώ ορισμένες εταιρείες ενσωματώνουν την τέχνη της τεχνητής νοημοσύνης στα προϊόντα τους, υπάρχει επίσης αρκετός δισταγμός από αυτούς που ανησυχούν ότι θα τραβήξουν επάνω τους όλη την ανεπιθύμητη προσοχή.
