Tahap pembangunan moden telah mencapai tahap di mana seorang pelajar sekolah pun boleh mengambil perpustakaan dengan model, contohnya , latihnya berdasarkan data yang diambil daripada sumber awam dan aplikasikannya pada data anda sendiri dengan kualiti yang boleh diterima. Kadangkala ia boleh menjadi lucu apabila persembahan Jennifer Lawrence ditunjukkan dengan wajah yang Atau, sebagai contoh, 11 pilihan berturut-turut dengan personaliti yang berbeza: Tetapi pada masa ini, syarikat gergasi teknologi sudah pun bimbang tentang apa yang sedang berlaku dan sudah ada artikel mengenainya di , tentang Facebook dan Microsoft yang menyediakan geran untuk mengesan deepfake. Saya tidak begitu mempercayai niat altruistik; saya lebih suka mempercayai keuntungan mudah. Kemungkinan besar, ini adalah cara untuk mencari strategi latihan model yang lebih baik untuk mencipta deepfake yang lebih dipercayai. Ini mungkin akan menjadi permulaan kitaran ganas: kaedah untuk memerangi deepfake akan dibangunkan, yang juga akan merangsang perkembangannya sebagai teknologi.
Saya fikir bukan rahsia lagi bahawa teknologi ini merupakan alat yang hebat untuk manipulasi dan provokasi. Bagi ahli politik dan selebriti, terdapat potensi yang besar untuk mencipta berita di tabloid dan seterusnya. Perlu juga diingatkan projek DeepNude yang berprofil tinggi dan cepat ditutup. Ia lebih berkemungkinan sebagai petanda kepada niche teknologi baharu; kemungkinan besar, pada masa hadapan (kini?) kita akan melihat kemunculan produk yang serupa dengan ini, di mana, dengan bayaran, sesiapa sahaja boleh melihat sesiapa sahaja dalam video dewasa, walaupun mereka yang telah menjauhkan diri daripada genre ini sebanyak mungkin.
Katakan tiada siapa yang memerlukan ini. Saya cadangkan kita uji ini dengan satu contoh. Mari kita bandingkan minat terhadap jenama lucah terkenal dengan seorang pelakon terkenal yang belum muncul secara rasmi dalam bidang ini. Mari kita ambil Sasha Grey dan Jennifer Lawrence. Berikut adalah perbandingannya. Kedua-duanya dalam tempoh 12 bulan yang lalu. Seorang pelakon yang sempurna kehilangan minat terhadap dirinya sebagai seorang pelakon, tetapi memang benar bahawa minat itu ada, dan ia mencukupi. Dan jika ada permintaan, ada pasaran, dan yang tinggal hanyalah memikirkan cara untuk menjana wang daripadanya.
Jelas sekali bahawa kita bukan sekadar bercakap tentang kandungan dewasa. Jika masalahnya ialah kita boleh menemui orang yang sama, menggunakan model deepfake, dan mencipta kandungan yang tidak dapat dibezakan oleh sesiapa pun daripada video yang dicipta dengan bakal mangsa, maka ini mungkin telah menyebabkan kerosakan imej dan reputasi kepada jenama peribadi mangsa. Pada masa ini, usaha dan wang yang besar boleh dilaburkan untuk imej seseorang, dan ini sangat dihargai. Oleh itu, saya tidak akan terkejut jika badan kawal selia untuk penciptaan kandungan muncul, dan mustahil untuk menyiarkan kandungan foto atau video di platform media awam yang mungkin mengandungi imej tokoh awam yang belum disahkan. Mungkin pada masa hadapan, ini tidak akan terhad kepada tokoh awam sahaja, tetapi kepada semua orang, kerana keadaan tidak publisiti adalah sementara a priori. Contohnya, beberapa jenis "agensi pengesahan personaliti" boleh muncul, dan tanpa tandatangan badan sedemikian, mustahil, walaupun secara teknikal, untuk mengedarkan kandungan secara terbuka. Ia mungkin kedengaran seperti karut, tetapi sistem penilaian sosial sudah sedia ada. , sebagai contoh, berikut ialah slaid dengan , yang menggambarkan sistem ini, yang akan dilaksanakan pada tahun 2020. Sebaliknya, Yandex sudah bersedia untuk menyediakan maklumat sejarah carian pengguna kepada bank untuk pemarkahan kredit yang lebih tepat. Tidak jelas bagaimana ini akan berfungsi, kerana pemarkahan kredit biasanya memerlukan model yang boleh ditafsirkan. Oleh itu, model berasaskan pokok sering digunakan untuk tugas ini. Dalam kes Yandex, berdasarkan maklumat awam, ini akan menjadi kotak hitam. Sebaliknya, jika peminjam telah menerima pinjaman, mereka sering tidak peduli dengan sebab pinjaman tersebut, dan jika ia ditolak, bank secara sah melindungi diri mereka dengan mengekalkan hak untuk tidak mendedahkan sebab penolakan tersebut.
Bagi saya, memandangkan semua ini, kemunculan badan pengawal selia tidak dapat dielakkan. Mungkin orang Cina akan menjadi perintis? Mengapa ini tidak dapat dielakkan? Kerana jika reputasi seseorang mudah dirosakkan, ini akan menjejaskan penilaian sosial mereka, dan bagi saya, rakyat yang mempunyai penilaian sosial yang tinggi dan yang tidak sanggup berpisah dengannya akan mengambil langkah untuk melindungi reputasi mereka. harta sosial.
Dalam hal ini, satu lagi perkara menarik ialah sistem sedemikian mungkin tidak mempunyai tarikh luput dan, setelah pelaksanaannya, akan mengingatkan semua orang tentang sebarang rangka yang terdapat di dalam almari mereka. Situasi semasa dengan kredit sosial di China nampaknya seperti ini: pada saat pelancaran, tiba-tiba mungkin menjadi jelas bahawa anda tidak lagi dibenarkan melakukan sesuatu.
Saya tertanya-tanya bagaimana semua ini akan memberi kesan kepada saya sebagai seorang pembangun. Masa akan menunjukkannya.
Sumber: www.habr.com
