Dziļo viltojumu parādīšanās pakalpojumā YouTube ir pilnībā mainījusi tiešsaistes video ainavu. Tas, kas pirms dažiem gadiem šķita vienkāršs tehnoloģisks eksperiments, ir kļuvis par nopietnu problēmu: video, kas ar satraucošu precizitāti atdarina slavenības, politiķus vai satura veidotājus, spējot maldināt, manipulēt vai iznīcināt reputāciju dažu stundu laikā.
Saskaroties ar šo izaicinājumu, YouTube ir nolēmis nopietni pievērsties un izmantot daudz agresīvāku stratēģiju pret mākslīgā intelekta ģenerētu saturu , kas atveido reālus cilvēkus. Jauni rīki, stingrāka politika, īpašas ziņošanas sistēmas un sadarbība ar izklaides industriju un svarīgām sabiedrībā zināmām personām ir daļa no ofensīvas, kuras mērķis ir ierobežot šo sintētisko radījumu izplatību.
Kas ir dziļviltojumi un kāpēc tie ir problēma vietnē YouTube?
Runājot par dziļviltojumiem, mēs domājam video, attēlus vai audio, ko izveidojis vai modificējis ģeneratīvais mākslīgais intelekts, lai atdarinātu reālas personas seju, balsi vai žestus. YouTube tas nozīmē klipus, kuros slavenība šķietami saka vai dara kaut ko tādu, kas nekad nav noticis, vai dziesmas, kas tiek izpildītas ar klonēta mākslinieka balsi bez viņa atļaujas.
Šāda veida saturam ir daudz potenciālu mērķu: sākot ar masveida maldināšanu un dezinformāciju (piemēram, vēlēšanu laikā) un beidzot ar vienkāršu bezatbildīgu izklaidi, kā arī tiešiem uzbrukumiem slavenību, politiķu vai publisku personu reputācijai. Galvenā problēma ir tā, ka, tehnoloģijām attīstoties, kļūst arvien grūtāk atšķirt autentisku saturu no mākslīgā intelekta ģenerētā.
Pēdējos gados YouTube ir pārpludināts ar to, ko tā izpilddirektors ir nosaucis par mākslīgā intelekta ģenerētu “nevēlamu saturu” . Starp tiem slavenību dziļviltojumi izceļas ar savu potenciāli kaitīgo raksturu: tie ne tikai nomāc lietotājus, kuri meklē kvalitatīvus videoklipus, bet arī apdraud likumību, tiesības uz savu tēlu un uzticību platformai.
Eksperti jau runā par nopietnu konfliktu saistībā ar digitālo identitāti un publisku personu aizsardzību . Ikviens, kam ir piekļuve relatīvi progresīviem mākslīgā intelekta rīkiem, var ģenerēt ticamu video, kurā viņš atveido aktieri, mūziķi vai politiķi, un augšupielādēt to vietnē YouTube. Bez efektīvas atklāšanas un reaģēšanas sistēmas reputācijas kaitējums var būt milzīgs un grūti atgriezenisks.
YouTube atbilde: Izmantojiet mākslīgo intelektu, lai cīnītos pret mākslīgo intelektu
Saskaroties ar šo scenāriju, YouTube ir izvēlējies piemērot loģiku " ja nevari viņus pārspēt, pievienojies viņiem ". Tā vietā, lai vienkārši reaģētu uz manuāliem ziņojumiem, platforma ir izstrādājusi sistēmas, kuru pamatā ir mākslīgais intelekts, lai atrastu sintētiskus videoklipus, kuros ļaunprātīgi tiek izmantots reālu cilvēku attēls vai balss.
Uzņēmums ir paziņojis par savas līdzinieku noteikšanas tehnoloģijas paplašināšanu — rīku, kas paredzēts, lai automātiski identificētu mākslīgā intelekta ģenerētu saturu, kas atdarina konkrētu personu seju vai balsi. Šī tehnoloģija ne tikai meklē acīmredzamus viltojumus: tā analizē sejas vaibstus, balss tembrus un atšķirīgas iezīmes, lai noteiktu, vai saturs varētu būt dziļviltojums.
Interesanti ir tas, ka YouTube apvieno šos tehnoloģiskos sasniegumus ar daudz stingrāku aizsardzības politiku . Runa nav tikai par video atrašanās vietas noteikšanu, bet gan par skaidra un relatīvi ātra kanāla nodrošināšanu skartajām personām, lai pieprasītu tā noņemšanu, īpaši, ja notikusi personības uzdošanās, maldināšana vai nepārprotami ļaunprātīga attēla izmantošana.
Šīs pūles ir reakcija uz pieaugošo spiedienu no lietotāju, mākslinieku, ierakstu kompāniju, talantu aģentūru un citu nozaru puses, kas ir ļoti pakļautas dezinformācijai. Viņi visi jau kādu laiku mudināja YouTube ieviest efektīvus mehānismus, lai ierobežotu viltotus video un neatļautu viņu attēlu vai balss izmantošanu.
No Content ID līdz līdzinieku noteikšanas sistēmai
Lai saprastu, kā darbojas šī jaunā ofensīva, ir lietderīgi atskatīties pagātnē. YouTube jau gadiem ilgi izmanto Content ID — sistēmu, kas skenē platformā augšupielādētos videoklipus un salīdzina tos ar milzīgu autortiesību aizsargātu darbu (mūzikas, videoklipu utt.) datubāzi. Ja tā atrod atbilstības, tā automātiski piemēro autortiesību noteikumus.
Līdzību noteikšanas tehnoloģija ir tieši iedvesmota no šī modeļa, taču ar atšķirīgu pieeju. Tā nevis izsekošanas autortiesībām aizsargātas dziesmas vai klipus, bet gan meklē atbilstības starp augšupielādētajiem videoklipiem un reālu cilvēku "digitālo pirkstu nospiedumu" . Šis pirkstu nospiedums ietver sejas vaibstus, kustību modeļus un daudzos gadījumos arī viņu balss raksturlielumus.
Katru reizi, kad tiek augšupielādēts jauns videoklips, YouTube algoritmi analizē saturu, izmantojot sejas un audio atpazīšanas metodes apvienojumā ar ģeneratīviem mākslīgā intelekta modeļiem, kas apmācīti manipulāciju noteikšanai. Ja sistēma atrod kaut ko aizdomīgu, tā atzīmē videoklipu pārskatīšanai un saista to ar personas, par kuru, iespējams, tiek uzdota, digitālo profilu.
Praksē tas ļauj potenciālajiem dziļviltojumu upuriem iegūt informācijas paneli, kurā viņi var atrast saturu, izmantojot savu attēlu vai balsi bez atļaujas, un no turienes pieprasīt tā noņemšanu . Tā ir skaidra evolūcija no "reaktīvas" pieejas, kas balstīta tikai uz manuāliem ziņojumiem, uz proaktīvu modeli, kas balstīts uz automatizētu skenēšanu.
Prioritāra piekļuve izklaides industrijai
Viens no lielākajiem sasniegumiem ir tas, ka YouTube ir nolēmis paplašināt šo līdzinieku noteikšanas tehnoloģiju uz izklaides industriju . Talantu aģentūras, menedžmenta uzņēmumi un slavenības, kuras tās pārstāv, tagad var izmantot šo rīku, lai aizsargātu māksliniekus, kurus tās pārstāv.
Platforma ir cieši sadarbojusies ar nozares lielākajām aģentūrām, piemēram , CAA, UTA, WME un Untitled Management , lai precīzi pielāgotu algoritmus reālām situācijām. Mērķis ir panākt, lai rīks darbotos ne tikai laboratorijā, bet arī būtu efektīvs ikdienas lietošanā, visu veidu apgaismojumā, video kvalitātē un kontekstos, kuros parasti cirkulē dziļviltojumi.
Svarīga detaļa ir tā, ka māksliniekiem un slavenībām nav nepieciešams YouTube kanāls , lai gūtu labumu no šīs aizsardzības. Pietiek ar to, ka viņi ir reģistrējušies sistēmā, izmantojot savus pārstāvjus vai tieši, lai platforma varētu izveidot un uzturēt viņu digitālo profilu.
Šī pieeja paplašina darbības jomu: tā aizsargā ne tikai satura veidotājus, kuri katru dienu augšupielādē saturu, bet arī slavenības, kuru attēlus var izmantot pat bez aktīvas klātbūtnes vietnē YouTube. Faktiski daudzos gadījumos dziļviltojumi balstās uz fotoattēliem vai videoklipiem, kas izplatās citos tīklos, bet galu galā tiek izmantoti Google platformā.
Paplašināta aizsardzība politiķiem, žurnālistiem un valsts amatpersonām
Līdzinieku noteikšanas rīks nav paredzēts tikai izklaides pasaulei. YouTube to sākotnēji ieviesa 2024. gadā nelielai īpaši jutīgu lietotāju grupai un laika gaitā ir paplašinājis tā darbības jomu, iekļaujot arī citus augsta riska profilus.
2026. gada sākumā uzņēmums paziņoja, ka sistēma būs pieejama arī valdības amatpersonām, žurnālistiem un politiskajiem kandidātiem . Šīs grupas ir galvenais mērķis dezinformācijas kampaņām, manipulētiem attēliem un viltotiem video, kuru mērķis ir ietekmēt sabiedrisko domu.
Šajā kontekstā par galveno rīku kļūst līdzības noteikšanas programma . Tehnoloģija analizē kadrus un audio ierakstus, lai noteiktu, vai šo personu attēls tiek izmantots mākslīgā intelekta ģenerētā montāžā, kas varētu maldināt, apdraudēt viņu ticamību vai izkropļot publiskās debates.
Šajā programmā reģistrētie lietotāji saņem paziņojumus, kad platforma atklāj iespējamu mākslīgā intelekta vadītu personības uzdošanos. Tomēr video noņemšana nenotiek automātiski : skartajām personām ir nepārprotami jāpieprasa tā noņemšana, un YouTube veic papildu analīzi, lai pārbaudītu kontekstu un noteiktu, vai ir pārkāptas tā politikas.
Reģistrācija un verifikācija aizsardzības programmā
Lai izmantotu šīs papildu funkcijas, sabiedrībā pazīstamām personām, kuras vēlas piedalīties programmā, ir jāiziet reģistrācijas un verifikācijas process . YouTube pieprasa, lai personas pierādītu savu identitāti, iesniedzot dokumentus un audiovizuālus materiālus.
Praksē saņēmējiem tiek lūgts augšupielādēt verifikācijas video un oficiālas akreditācijas datus , lai apstiprinātu savu identitāti. Ar šo informāciju platforma izveido uzticamu digitālo profilu, ko algoritmi pēc tam izmanto, lai salīdzinātu ar lietotāju augšupielādēto saturu.
Šis solis ir ļoti svarīgs, lai novērstu sistēmas ļaunprātīgu izmantošanu. Bez stingras verifikācijas kāds varētu mēģināt apgalvot, ka citas personas attēls ir savējais, vai piespiest noņemt likumīgus videoklipus, apgalvojot, ka persona ir uzdojusies par citu personu. Tāpēc YouTube pirms aizsardzības aktivizēšanas apvieno manuālu verifikāciju ar automatizētiem tehniskiem procesiem.
Pēc validācijas programmā iekļautie lietotāji var piekļūt īpašiem meklēšanas un ziņošanas rīkiem , kuros tiek uzskaitīti aizdomīgi videoklipi un tiek piedāvātas skaidras iespējas sūdzību un satura noņemšanas procesu uzsākšanai.
Radošais mākslīgais intelekts pret ļaunprātīgo mākslīgo intelektu: šīs parādības divas puses
Tas viss ir jāsaprot YouTube pastāvīgo centienu kontekstā veicināt mākslīgā intelekta radošu izmantošanu satura veidotāju vidū. Pati platforma ir sākusi piedāvāt rīkus tādu avatāru ģenerēšanai, kas izskatās un skan kā YouTube lietotājs, uzlabotus filtrus un viedas rediģēšanas iespējas.
Problēma ir tā, ka to pašu tehnoloģiju, kas ļauj izveidot draudzīgu kanāla avatāru, var izmantot arī ārkārtīgi reālistisku imitāciju radīšanai . Tāpēc uzņēmums ievēro smalku robežu: tas veicina inovācijas, taču tam ir jāierobežo lietojumi, kas pārkāpj juridiskās vai ētiskās robežas.
Daudz apspriests piemērs ir vīrusu dziesmu gadījums, kurās vokāls, šķiet, pieder slaveniem māksliniekiem, piemēram, dziesma “Bad Bunny”, ko pilnībā ģenerējis mākslīgais intelekts . Patiesībā mākslinieks nekad nav ierakstījis šo dziesmu, taču vokālā līdzība bija tik pārsteidzoša, ka daudzi lietotāji uzskatīja to par īstu, un tā kļuva ļoti populāra sociālajos medijos un video platformās.
Šādi gadījumi ir iekustinājuši trauksmes zvanus ierakstu kompānijās, ierakstu kompānijās un pašos māksliniekos, kuriem tagad ir mehānismi, lai pieprasītu dziesmu un video noņemšanu , kas bez atļaujas atdarina viņu balsi vai attēlu. Aizsardzība vairs neaprobežojas tikai ar tradicionālajām autortiesībām: tagad spēlē lomu tiesības uz identitāti un attēlu.
Jauni pienākumi satura veidotājiem pakalpojumā YouTube
Papildus noteikšanas rīkiem YouTube ir atjauninājis savas politikas, lai pieprasītu satura veidotājiem pārredzami marķēt mākslīgā intelekta ģenerētu vai mainītu saturu , īpaši, ja tas attiecas uz jutīgām tēmām, piemēram, vēlēšanām, sabiedrības veselību vai humanitārajām krīzēm.
Turpmāk videoklipiem, kas lielā mērā balstās uz mākslīgo intelektu, ir jāiekļauj skaidras etiķetes vai brīdinājumi , lai skatītāji zinātu, ka dažas satura daļas ir sintētiskas. Tas attiecas gan uz YouTube pašu mākslīgā intelekta rīku, gan trešo pušu lietojumprogrammu izmantošanu.
Piemēram, platforma nošķir video, kuros redzams, kā kāds saka vai dara kaut ko tādu, ko nekad nav darījis (tipisks dziļviltojumu gadījums), no notikumu atveidojumiem, kas nekad nav notikuši. Abos gadījumos veidotājiem tiek lūgts skaidri norādīt, ka saturs ir digitāli ģenerēts vai manipulēts.
Lai pastiprinātu šo pārredzamību, Google iepriekš pieprasīja, lai politiskajās reklāmās pakalpojumā YouTube tiktu iekļauti brīdinājumi, ja tajās ir iekļauts mākslīgā intelekta ģenerēts materiāls. Tagad šī politika tiek paplašināta, iekļaujot arī organisko saturu kanālos.
Sapņu ekrāns un mākslīgā intelekta ģenerēta satura kešatmiņa
Līdztekus atzīmēšanas politikām un līdzību noteikšanas sistēmām YouTube ir ieviesis tādus rīkus kā Dream Screen , kas īpaši izstrādāts satura veidošanai tādos formātos kā īsie video un mākslīgā intelekta darbināmi avatari . Šī funkcija, izmantojot mākslīgo intelektu, ģenerē fonus un vizuālos elementus, kas paredzēti, lai padarītu īsos video saistošākus.
No dziļviltojumu apkarošanas viedokļa būtiski ir tas, ka platforma izveido sava veida "kešatmiņu" jeb ierakstu ar mākslīgā intelekta ģenerētu materiālu . Šo resursu identificēšana atvieglo vēlāku pārbaudi, vai tie netiek pārstrādāti vai maldinoši apvienoti citos videoklipos.
Tādā veidā YouTube cenšas līdzsvarot svaru kausus: no vienas puses, tas piedāvā veidotājiem jaudīgus rīkus inovācijām; no otras puses, tas uzrauga šo resursu izmantošanu , lai neļautu tiem veicināt "mākslīgā intelekta atkritumu" vilni, kas draud piesātināt platformu.
Šī pieeja arī paver uzņēmumam iespēju nākotnē piemērot modernākas automātiskās moderācijas politikas klipiem, ko pilnībā ģenerējis mākslīgais intelekts, bet kas nerada pievienoto vērtību vai tiek izmantoti tikai maldināšanai vai dezinformācijai.
Ziņošanas par dziļviltojumu un to noņemšanas process pakalpojumā YouTube
Papildus automātiskai noteikšanai YouTube ir ieviesis īpašu ziņošanas procesu mākslīgā intelekta ģenerētiem videoklipiem, kuros tiek atveidoti īsti cilvēki. Šis mehānisms nav paredzēts tikai slavenībām; to var izmantot arī parastie lietotāji, kurus tas skar.
Jaunā politika ļauj māksliniekiem un viņu ierakstu kompānijām pieprasīt tādu dziļviltojumu noņemšanu, kas atdarina viņu balsi vai attēlu bez oficiālas atļaujas. Šīs ir būtiskas izmaiņas salīdzinājumā ar iepriekšējiem posmiem, kad uzmanības centrā bija gandrīz tikai autortiesības.
Arī anonīmie lietotāji nav izslēgti. Ikviens, kurš pamana video, kurā viņa attēls vai balss tiek mākslīgi izmantota maldināšanas vai uzmākšanās nolūkos, var uzsākt sūdzības iesniegšanas procesu. Platforma pārskatīs lietu un, ja tā atbildīs tās politikai, noņems saturu vai veiks citus pasākumus.
No otras puses, pati kopiena var spēlēt galveno lomu, ziņojot par aizdomīgu saturu. Ja daudzi lietotāji atzīmē videoklipu kā potenciāli kaitīgu dziļviltojumu, pastāv lielāka iespēja, ka tas tiks iekļauts paātrinātajā pārskatīšanas procesā , un lēmumi tiks pieņemti ātrāk.
Kā novērst mākslīgā intelekta ģenerēta satura noņemšanu
Ir skaidrs, ka ne viss mākslīgā intelekta ģenerētais saturs ir paredzēts, lai atdarinātu citus vai maldinātu auditoriju. Daudzi veidotāji eksperimentē ar šiem rīkiem radoši , parodē vai izglītojoši bez ļaunprātīga nodoma. Arī YouTube nosaka tiem vadlīnijas.
Zelta likums video noņemšanas riska samazināšanai ir caurspīdīgums . Ja video ietver reālistiskas mākslīgā intelekta ģenerētas ainas, veidotājam tas ir skaidri jānorāda: aprakstā, tagos un, ja iespējams, tieši pašā video, izmantojot brīdinājumus vai etiķetes.
Platforma iesaka veidotājam precizēt, vai video attēlo notikumus, kas nekad nav notikuši , vai arī kāds šķiet sakām vai darām lietas, ko viņš patiesībā nekad nav darījis. Šis konteksts palīdz skatītājam interpretēt redzēto un parāda, ka video nav paredzēts kā autentisks dokuments.
Turklāt ir svarīgi, lai tiem, kas izmanto trešo pušu balsi vai attēlu, pat parodijas kontekstā, būtu nepārprotamas atļaujas, ja rezultātu varētu sajaukt ar reālu saturu vai radīt būtisku kaitējumu reputācijai.
Ja satura veidotājs ignorē šīs vadlīnijas un ļaunprātīgi izmanto mākslīgo intelektu, lai radītu maldinošus dziļviltojumus, viņam draud ne tikai video noņemšana , bet arī nopietnāki sodi, piemēram, kanāla funkciju ierobežošana un pat monetizācijas apturēšana.
Sodi tiem, kas pārkāpj jaunos noteikumus
Sekas kanāliem, kas pārkāpj YouTube mākslīgā intelekta un dziļviltojumu politikas, var būt diezgan nopietnas. Atklājot nepārprotamu pārkāpumu, viens no pirmajiem soļiem ir nekavējoties noņemt attiecīgo saturu , īpaši, ja tas ietver maldinošu materiālu par sensitīvām tēmām vai personības uzdošanos.
Ja pārkāpumi tiek atkārtoti, platforma var piemērot bargākus sodus, piemēram, apturēt maksājumus, kas ģenerēti, izmantojot Partneru programmu. Daudziem satura veidotājiem tas nozīmē zaudēt svarīgu ienākumu avotu.
Ārkārtējos un atkārtotos gadījumos vai arī tad, ja kanāls sistemātiski augšupielādē kaitīgus dziļviltojumus vai mākslīgā intelekta ģenerētu “nevēlamu saturu”, YouTube var slēgt kanālu vai liegt izveidot jaunus profilus, kas saistīti ar to pašu īpašnieku. Ideja ir skaidri norādīt, ka šāda veida prakse nav vēlama.
Ar šīm sankcijām uzņēmums cenšas atturēt gan tos, kas negodprātīgi izmanto mākslīgo intelektu, gan tos, kas to izmanto bezatbildīgi, neņemot vērā to, kā viņu video var ietekmēt skarto cilvēku reālo dzīvi.
Kopā ņemot, līdzinieku noteikšanas tehnoloģijas, pārredzamības politikas, ziņošanas rīku un ekonomisko sankciju kombinācija rada priekšstatu, ka dziļviltojumu ļaunprātīga izmantošana platformā kļūst arvien dārgāka .
Šis viss YouTube solis atspoguļo to, cik lielā mērā cīņa pret dziļviltojumiem ir kļuvusi par centrālo digitālo debašu elementu. Platforma cenšas saglabāt vietu, kur radošums un mākslīgais intelekts var pastāvēt līdzās, taču novelkot skaidras robežas pret personības atveidošanu, manipulācijām un dezinformāciju. Šo pasākumu panākumi būs atkarīgi ne tikai no tās algoritmiem, bet arī no veidotāju un lietotāju kopienas atbildības, kas autentiskumu vērtē tikpat augstu kā izklaidi.
