Το σημερινό επίπεδο ανάπτυξης έχει φτάσει στο σημείο που ακόμη και ένας μαθητής μπορεί να πάρει μια βιβλιοθήκη με μοντέλα, για παράδειγμα , εκπαιδεύστε σε δεδομένα που λαμβάνονται από δημόσιες πηγές και εφαρμόστε τα στα δεδομένα σας με αποδεκτή ποιότητα. Μερικές φορές μπορεί να είναι αστείο όταν η παράσταση της Jennifer Lawrence εμφανίζεται με το πρόσωπό της . Ή, για παράδειγμα, 11 επιλογές στη σειρά με διαφορετικές προσωπικότητες: Αλλά αυτή τη στιγμή, οι techno γίγαντες ανησυχούν ήδη για το τι συμβαίνει και υπήρχε ήδη ένα άρθρο σχετικά με αυτό , ότι το Facebook και η Microsoft παρέχουν επιχορηγήσεις για τον εντοπισμό DeepFakes. Δεν πιστεύω πραγματικά σε αλτρουιστικές προθέσεις· θα πίστευα περισσότερο στο συνηθισμένο όφελος. Πιθανότατα, αυτός είναι ένας τρόπος για να βρείτε ακόμα καλύτερες στρατηγικές για μοντέλα εκπαίδευσης για τη δημιουργία ακόμη πιο πιστευτών DeepFakes. Πιθανότατα, ο κύκλος θα κλείσει εδώ, θα αναπτυχθούν μέθοδοι για την καταπολέμηση του DeepFake και θα τονώσουν επίσης την ανάπτυξή του ως τεχνολογία.
Νομίζω ότι δεν είναι μυστικό για κανέναν ότι μια τέτοια τεχνολογία είναι ένα εξαιρετικό εργαλείο χειραγώγησης και πρόκλησης. Όσο για τους πολιτικούς και τις διάσημες προσωπικότητες, υπάρχει τεράστιο πεδίο δημιουργίας ειδήσεων στον κίτρινο Τύπο και όχι μόνο. Αξίζει επίσης να θυμηθούμε το συγκλονιστικό και γρήγορα καταρρακωμένο έργο DeepNude. Σε γενικές γραμμές, αυτό ήταν μάλλον προάγγελος της δημιουργίας μιας νέας τεχνολογικής θέσης· πιθανότατα σε κάποιο μέλλον (του παρόντος;) θα είναι δυνατό να δείτε την εμφάνιση προϊόντων παρόμοια με το γεγονός ότι σε ένα βίντεο για ενήλικες για μια συγκεκριμένη αμοιβή μπορεί να δει οποιονδήποτε, ακόμα και εκείνους που έχουν αποστασιοποιηθεί όσο το δυνατόν περισσότερο από αυτό το είδος.
Ας υποθέσουμε ότι κανείς δεν χρειάζεται αυτό. Προτείνω να το ελέγξετε με ένα παράδειγμα. Ας ελέγξουμε το ενδιαφέρον για μια καλά προωθημένη μάρκα πορνό έναντι μιας γνωστής αλλά όχι επίσημα προβεβλημένης ηθοποιού. Πάρτε τη Σάσα Γκρέι και την Τζένιφερ Λόρενς. Εδώ είναι μια σύγκριση τόσο τους τελευταίους 12 μήνες. Μια καθαρή ηθοποιός χάνει το ενδιαφέρον της για το πρόσωπό της ως τέτοια δραστηριότητα, αλλά σίγουρα μπορούμε να πούμε ότι υπάρχει ενδιαφέρον και είναι αρκετό. Και αν υπάρχει ζήτηση, υπάρχει αγορά, το μόνο που μένει είναι να καταλάβουμε πώς να τη δημιουργήσουμε χρήματα.
Είναι σαφές ότι δεν μιλάμε μόνο για περιεχόμενο για ενηλίκους· εάν το πρόβλημα είναι ότι μπορείτε να πάρετε ένα διπλό άτομο, να χρησιμοποιήσετε μοντέλα DeepFake και να δημιουργήσετε περιεχόμενο που κανείς δεν μπορεί να διακρίνει από ένα βίντεο που δημιουργήθηκε με ένα πιθανό θύμα, τότε αυτό μπορεί ήδη να δημιουργήσει απώλειες εικόνας και φήμης για την προσωπική επωνυμία του θύματος. Αυτή τη στιγμή, τόσο η προσπάθεια όσο και τα χρήματα μπορούν να επενδυθούν στην εικόνα ενός ατόμου, και μάλιστα σημαντικά, και αυτό εκτιμάται. Επομένως, δεν θα εκπλήσσομαι που οι ρυθμιστικές αρχές φαίνεται να δημιουργούν περιεχόμενο και δεν θα είναι δυνατή η δημοσίευση περιεχομένου φωτογραφιών/βίντεο σε πλατφόρμες δημόσιων μέσων ενημέρωσης που ενδέχεται να περιέχουν εικόνες δημοσίων προσώπων που δεν έχουν υποβληθεί σε επαλήθευση. Ίσως στο μέλλον όχι μόνο τα δημόσια, αλλά όλοι στη σειρά, γιατί η κατάσταση της μη δημοσιότητας είναι a priori προσωρινή. Για παράδειγμα, μπορεί να εμφανιστεί κάποιο είδος «πρακτορείου επαλήθευσης ταυτότητας» και χωρίς την υπογραφή μιας τέτοιας αρχής θα είναι αδύνατη, ακόμη και τεχνικά, η δημόσια διανομή περιεχομένου. Αυτό μπορεί να ακούγεται σαν ανοησία, αλλά το σύστημα κοινωνικής αξιολόγησης είναι ήδη , για παράδειγμα, εδώ είναι μια διαφάνεια με , το οποίο απεικονίζει αυτό το σύστημα, το οποίο πρόκειται να εφαρμοστεί το 2020. Κατά, είναι ήδη έτοιμη να παρέχει πληροφορίες σχετικά με το ιστορικό αναζήτησης των χρηστών στις τράπεζες για πιο ακριβή πιστωτική βαθμολογία. Σε γενικές γραμμές, δεν είναι σαφές πώς θα λειτουργήσει αυτό, καθώς η βαθμολόγηση της πιστοληπτικής ικανότητας συνήθως απαιτεί το μοντέλο να είναι ερμηνεύσιμο. Επομένως, για αυτήν την εργασία χρησιμοποιούνται συχνά μοντέλα που βασίζονται σε δέντρα. Στην περίπτωση του Yandex, κρίνοντας από δημόσιες πληροφορίες, θα είναι ένα μαύρο κουτί. Από την άλλη πλευρά, εάν ένας δανειολήπτης έχει λάβει δάνειο, τις περισσότερες φορές δεν τον ενδιαφέρει γιατί του δόθηκε δάνειο, και αν του απορρίφθηκε, σε αυτήν την περίπτωση οι τράπεζες προστατεύονται νομικά από το γεγονός ότι έχουν το δικαίωμα να μην αποκαλύπτουν ο λόγος της άρνησης.
Μου φαίνεται ότι σε όλο αυτό το πλαίσιο, η εμφάνιση ρυθμιστικών αρχών είναι αναπόφευκτη. Ίσως οι Κινέζοι να είναι οι πρωτοπόροι; Γιατί είναι αυτό αναπόφευκτο; Γιατί αν είναι εύκολο να καταστρέψει κανείς τη φήμη κάποιου, αυτό θα επηρεάσει αναλόγως την κοινωνική βαθμολογία και μου φαίνεται ότι οι πολίτες που έχουν υψηλή κοινωνική βαθμολογία και δεν θέλουν να την αποχωριστούν θα λάβουν μέτρα για την προστασία τους. κοινωνική περιουσία.
Από αυτή την άποψη, θα είναι ενδιαφέρον ότι πιθανότατα τέτοια συστήματα δεν θα έχουν παραγραφή και κατά τη στιγμή της εφαρμογής θα υπενθυμίζουν σε όλους όλους τους σκελετούς που βρίσκονται στο ντουλάπι. Η τρέχουσα κατάσταση με τις κοινωνικές αξιολογήσεις στην Κίνα φαίνεται να είναι ακριβώς έτσι· τη στιγμή της κυκλοφορίας, μπορεί ξαφνικά να αποδειχθεί ότι τώρα δεν επιτρέπεται να κάνετε κάτι.
Αναρωτιέμαι πώς όλο αυτό θα με στοιχειώσει ως προγραμματιστή ? Ο χρόνος θα δείξει.
Πηγή: www.habr.com