ChatGPT pagaidu tērzēšana ir kļuvusi par mākslīgā intelekta "inkognito režīmu".Šī funkcija ir paredzēta tiem, kas vēlas uzdot sensitīvus jautājumus, pārbaudīt konfidenciālas idejas vai vienkārši novērst konkrētas sarunas ietekmi uz pārējām viņu tērzēšanas sarunām. Taču, jo vairāk tā tiek izmantota, jo vairāk rodas šaubas: Cik privāta tā patiesībā ir? Ko OpenAI glabā? Vai sistēma var "atcerēties" kaut ko tādu, ko tā it kā nesaglabā?
Pēdējos mēnešos ir parādījušās liecības no ieinteresētiem lietotājiem. kuri apgalvo, ka ir redzējuši īslaicīgā tērzēšanā ievadīto informāciju atkal parādāmies parastajā tērzēšanā, papildus tehniskām diskusijām par to, kā tiek pārvaldīti šie "īslaicīgie" dati, piemēram, Otrā pilota kļūmeVienlaikus OpenAI dokumentācijā ir paskaidrots, ka drošības apsvērumu dēļ kopija tiek glabāta 30 dienas. Tas viss ir radījis gan interesi, gan apjukumu, gan neuzticēšanos, kas būtu mierīgi jānoskaidro.
Kas īsti ir ChatGPT pagaidu tērzēšana?
ChatGPT pagaidu tērzēšana ir "īpašs" sarunas režīms, kas paredzēts privātuma palielināšanai.Aktivizējot to, tiek sākta sesija, kas netiek saglabāta jūsu parastajā pārlūkošanas vēsturē un, saskaņā ar OpenAI, netiek izmantota tā mākslīgā intelekta modeļu apmācībai. Praksē tas ir līdzvērtīgs inkognito režīmam tādās pārlūkprogrammās kā Chrome, Safari vai Firefox, bet tiek piemērots sarunu palīgam.
Parastā tērzēšanā visas jūsu sarunas tiek ierakstītas jūsu kontā.Šos ziņojumus var pārskatīt vēlāk, un tie veido daļu no konteksta, kas palīdz personalizēt atbildes. Turpretī pagaidu tērzēšanai nav nepārtrauktības pēc sesijas aizvēršanas: to nevar atsākt, un tā neparādās tērzēšanas sarakstā. No lietotāja viedokļa ideja ir skaidra: tas, ko tur sakāt, tur arī paliek.
OpenAI oficiālajā palīdzībā šis režīms tiek raksturots kā saruna, kas sākas "no nulles".Modelis neredz jūsu iepriekšējās sarunas vai nepiekļūst pagātnes atmiņām, lai gan tas joprojām var piemērot jūsu personalizētos norādījumus, ja tie ir iespējoti (piemēram, atbildes tonis vai vispārīgs konteksts par jūsu darbībām). Šī atdalīšana atgādina personalizācijas koncepcijas, piemēram, Google personīgā informācijakas pārvalda preferenču piemērošanu, nejaucot kontekstus.
Šī atdalīšana ir īpaši svarīga, jo ChatGPT mācās no jūsu mijiedarbības.Katrs jautājums, katrs augšupielādētais dokuments un katra detaļa, ko kopīgojat regulārās tērzēšanā, var palīdzēt uzlabot modeļa uzvedību jūsu turpmākajās sarunās. Pagaidu tērzēšana mēģina "pārtraukt" šo pavedienu un neļaut atsevišķai apmaiņai ietekmēt turpmākās atbildes vai palikt redzamai jūsu tērzēšanas vēsturē.
Kas tieši notiek, aktivizējot pagaidu tērzēšanu?
Pagaidu tērzēšanas aktivizēšana izraisa virkni skaidru izmaiņu jūsu sesijas pārvaldībā.Lai gan no pirmā acu uzmetiena lietošana ir ļoti līdzīga parastai tērzēšanai, pamatā pastāv būtiskas atšķirības krātuvē, atmiņā un modeļa apmācībā.
Kad pagaidu tērzēšana ir aktīva, saskaņā ar OpenAI sniegto informāciju notiek sekojošais. un jau izplatītie apraksti:
- Saruna netiek rādīta jūsu tērzēšanas vēsturē.Nesenajās sarunās neredzēsiet nosaukumu vai saturu.
- ChatGPT "neatceras" šo sarunu turpmākai mijiedarbībai.Tas, ko jūs tur sakāt, netiek atkārtoti izmantots kā konteksts, kad vēlāk atgriežaties parastajā tērzēšanā.
- Pagaidu tērzēšanas saturs netiek pievienots ChatGPT atmiņai. (ja ir iespējota personīgās pastāvīgās atmiņas funkcija).
- Sesija netiek izmantota mākslīgā intelekta modeļu pastāvīgai apmācībai.Citiem vārdiem sakot, tam nevajadzētu tikt ievadītam sistēmā tāpat kā standarta tērzēšanā, ja jūs dodat atļauju.
- OpenAI sarunas kopiju saglabā līdz pat 30 dienām. drošības un atbilstības apsvērumu dēļ (ļaunprātīgas izmantošanas, krāpšanas, nelikumīgas izmantošanas u. c. atklāšana), un pēc šī perioda tas to noņem, izmantojot līdzīgu pieeju kā Google pagaidu attēli.
Šis kopēšanas periods līdz 30 dienām ir viens no punktiem, kas rada vislielākās bažas.Lai gan jūs nevarat tam piekļūt un tas neparādās jūsu saskarnē, tas joprojām pastāv uzņēmuma serveros ierobežotu laiku. Oficiālais skaidrojums parasti ir tāds, ka šis laika posms ir nepieciešams, lai izmeklētu ļaunprātīgu izmantošanu, reaģētu uz juridiskajām prasībām un uzturētu pamata izsekojamību.
Sesijas laikā notiek tipiskas "tiešraides" tērzēšanas uzvedība.Modelis var atsaukties uz to, ko teicāt pirms dažiem ziņojumiem, izmantojot to kā tiešu kontekstu un ģenerējot saskaņotas atbildes. Taču, tiklīdz aizverat vai izejat no pagaidu tērzēšanas sarunas, šī saruna tiek pārtraukta. Nav iespējas atgriezties pēc vairākām dienām un turpināt tur, kur pārtraucāt.
Kam īsti paredzēta pagaidu tērzēšana pakalpojumā ChatGPT?
Visacīmredzamākais īslaicīgās tērzēšanas pielietojums ir tad, kad jāapspriež personiskas, jutīgas vai īpaši delikātas lietas. Un jums ir neērti, ka tie tiek ierakstīti jūsu failā vai izmantoti modeļa apmācībai. Tas ietver sarunas par veselību, finansēm, darba konfliktiem, ģimenes problēmām, biznesa ideju izstrādi utt.
Daudzi lietotāji to izmanto tieši tad, kad ir spiesti koplietot datus, kurus viņi nevēlētos "ierakstīt".Tas varētu būt dokuments, kas satur privātu informāciju, juridisks teksts ar īpašvārdiem, konfidenciāla profesionāla stratēģija vai informācija, kas varētu identificēt konkrētas personas. Lai gan nulles risks nav iespējams, īslaicīga tērzēšana ļauj samazināt šo atkarību salīdzinājumā ar parasto tērzētavu izmantošanu.
Bet ir arī ikdienišķāki un ikdienas lietojumi, kas arī ļoti labi atbilst šim režīmam.Piemēram, ja esat nedēļām ilgi "apmācījis" ChatGPT atbildēt noteiktā profesionālā stilā, tonī vai pieejā, iespējams, nevēlaties, lai viens pilnīgi atšķirīgs jautājums traucētu šo personalizāciju. Pagaidu tērzēšana kalpo kā neitrāla zona: jūs uzdodat savu jautājumu, saņemat atbildi, un tā neietekmē pārējo jūsu pieredzi.
Tas ir noderīgi arī tad, ja meklējat atbildes, kuras nav ietekmējušas jūsu iepriekšējās sarunas.Ja vairākas dienas esat apspriedis ļoti specifisku tēmu (piemēram, savu darba projektu) un pēkšņi vēlaties lūgt palīdzību ar kaut ko pavisam citu (personisku lietu, juridisku jautājumu, nedaudz saistītu tehnisku problēmu), pagaidu tērzēšana nodrošina "tukšu audeklu", kur sistēmai nav iepriekšējas inerces.
Profesionālajā un biznesa vidē šai laika pieejai ir vēl lielākas sekas.Izstrādes komandas, mārketinga nodaļas vai konsultāciju uzņēmumi var izmantot īslaicīgas tērzēšanas sarunas, lai veiktu ātrus testus, A/B eksperimentus, prototipētu sarunu aģentus vai strādātu ar darbplūsmām, nesajaucot šo saturu ar "nopietnajiem" datiem, kas apmāca ražošanā izmantoto modeli.
Ko pagaidu tērzēšana nedara (un kādi ir tās ierobežojumi)
Viens no biežākajiem pārpratumiem ir uzskats, ka pagaidu tērzēšana ir pilnīgi anonīms un bez pēdām režīms.Tas ir gandrīz tā, it kā jūs runātu ar lokālu modeli, kas pastāv tikai jūsu datorā. Tā nav taisnība. Lai gan tas pievieno privātuma slāņus salīdzinājumā ar standarta tērzēšanu, tam ir skaidri ierobežojumi, kas jāpatur prātā.
Pirmkārt, pagaidu tērzēšana nav saruna, ko var atsākt vēlāk.Tas ir specifisks, gandrīz "vienreiz lietojams". Ja pēc kāda laika vēlaties atgriezties pie tās pašas tēmas ar pilnu kontekstu, nav iespējams turpināt no vietas, kur pārtraucāt: jums būs jāsāk no jauna citā tērzēšanā, pagaidu vai regulārā.
Tas arī neļaus jums apiet jūsu plāna ierobežojumus vai robežas.Ja jūsu kontam ir noteiktas lietošanas kvotas, ziņojumu ierobežojumi, pieejamās veidnes vai funkcijas, pagaidu tērzēšanai tiek piemēroti tie paši noteikumi. Tas nav veids, kā apiet kontroles, satura filtrus vai drošības politikas.
Vēl viens svarīgs aspekts ir tas, ka, lai gan pagaidu tērzēšana netiek izmantota modeļu apmācībai,Saruna šo 30 dienu laikā joprojām var tikt pārskatīta iekšēji (piemēram, drošības auditu vai incidentu reaģēšanas vajadzībām). Tas nozīmē, ka šī nav 100% droša sistēma, kurā neviens cits nekad nevar redzēt jūsu rakstīto.
Turklāt joprojām nav skaidrības par to, ko īsti nozīmē "modeļu neapmācība".Uzņēmuma ierastais solījums ir, ka šie dati netiek iekļauti kopējā apmācībā vai izmantoti globālā modeļa uzlabošanai. Tomēr daudzi lietotāji prāto, vai tos varētu izmantot apkopotā, anonimizētā veidā vai iekšējai testēšanai. Šis caurspīdīguma trūkums daļēji veicina neuzticēšanos.
Lietotāja gadījums, kad viņš atkal redzēja pagaidu tērzēšanas datus
Viens no stāstiem, kas izraisījis vislielāko ažiotāžu, ir par lietotāju, kurš izmantoja īslaicīgu tērzēšanu, lai strādātu pie jaunas idejas.Tieši to viņa nevēlējās ierakstīt vai saistīt ar savu profilu. Tajā brīdī viņa pieņēma, ka tas, ko viņa teica šajā sesijā, paliks noslēpumā un netiks tālāk izmeklēts.
Pēc dažām dienām, parastā tērzēšanā, viņa sāka lūgt idejas, lai atjauninātu savu Instagram biogrāfiju.Saskaņā ar viņa sniegto informāciju, sistēma sāka ieteikt frāzes un detaļas, kuras viņš viens pats bija pieminējis pagaidu tērzēšanā, kas izraisīja trauksmes zvanus. Kad viņš skaidri pateica mākslīgajam intelektam, ka tas izmanto saturu no pagaidu tērzēšanas, modelis atvainojās, paziņoja, ka ir iekļāvis šo informāciju savā atmiņā, un solīja izdzēst visu, kas saistīts ar šo sarunu.
Šī uzvedība radīja ļoti nopietnu jautājumu: vai modelis tiešām ieguva informāciju no pagaidu tērzēšanas? Vai varbūt viņam vienkārši bija “halucinācijas” un viņš sniedza vispārīgas atbildes, kuras lietotājs interpretēja kā sakritības? Pati skartā puse atzina, ka oficiālajā skaidrojumā bija runa par modeļa kļūdu (halucināciju), nevis par apzinātu laika funkcijas pārkāpumu.
Noraizējies, viņš sazinājās ar OpenAI atbalsta dienestu.Viņš saņēma atbildi, ka saskaņā ar viņu sistēmām tērzēšanas dzēšana un pagaidu režīma izmantošana nozīmē, ka dati netiek ne saglabāti, ne izmantoti modeļu apmācībai. Atbalsta komanda norādīja uz iespējamu sajaukšanu un paskaidroja, ka modelī varētu būt sajaukta informācija vai safabricētas detaļas, kas ir bieži sastopama prakse tiesību zinātņu maģistrantūrā (LLM), kad viņi cenšas būt noderīgi bez pietiekamiem datiem.
Tomēr lietotājs joprojām skaidri nesaprata šo skaidrojumu.Viņam šķita, ka detaļas ir pārāk specifiskas, lai tās būtu tikai sakritība. Pēc tam atbalsta dienests lūdza viņam sniegt konkrētus piemērus, laika zīmogus un precīzus ziņojumu fragmentus, lai viņi varētu turpināt izmeklēšanu. Un šeit sadūrās divas realitātes: nepieciešamība pēc tehniskiem pierādījumiem un lietotāja atteikšanās dalīties ar privātiem datiem, kurus viņš īpaši vēlējās paturēt noslēpumā.
OpenAI atbilde un šaubas, kas paliek
OpenAI oficiālā politika ir skaidra: pagaidu tērzēšanas dati netiek izmantoti modeļu apmācībai, un dati tiek dzēsti pēc ne vairāk kā 30 dienām.Tomēr drošības, atbilstības tiesību aktiem un ļaunprātīgas izmantošanas atklāšanas nolūkos šajā periodā var tikt saglabāta kopija. No produkta viedokļa vēstījums ir tāds, ka, ja vēlaties papildu privātuma slāni, izmantojiet pagaidu tērzēšanas funkciju un dzēsiet tērzēšanas vēsturi, kad uzskatāt to par piemērotu.
Problēma ir tā, ka šis solījums ir pretrunā ar daudzu lietotāju sajūtu, ka pārredzamība ir ierobežota.Nav vienkārša veida, kā no ārpuses precīzi pārbaudīt, kas tiek darīts ar šiem datiem. Jūs nevarat pieteikties informācijas panelī un redzēt, kā ir pārvaldītas jūsu pagaidu tērzēšanas sarunas, kā arī nevarat neatkarīgi pārbaudīt, vai tās nav izmantotas apmācības nolūkos.
Situāciju vēl vairāk pasliktina tas, ka valodas modeļu būtība ļauj viegli noturēt sakritības par atmiņām.Ja esat teicis kaut ko ļoti specifisku, bet ne pilnīgi unikālu, modelis vēlāk var ģenerēt līdzīgu atbildi tīras lingvistiskas varbūtības dēļ, un jūsu smadzenes var interpretēt tā, ka tās "atceras" jūsu teikto, pat ja patiesībā tās tikai rekombinē modeļus.
Minētajā gadījumā OpenAI atbalsta dienests pat atzina, ka modelis "halucinēja", kad apgalvoja, ka ir iekļāvis šo informāciju savā atmiņā.Citiem vārdiem sakot, ChatGPT pats izdomāja apgalvojumu, ka tas izmantoja pagaidu tērzēšanas datus un pēc tam tos izdzēsa. Šāda veida nepatiesi apgalvojumi no modeļa kalpo kā atgādinājums, ka tā skaidrojumi par tā iekšējo darbību ne vienmēr ir ticami: tas joprojām ir teksta ģenerators, nevis caurspīdīgs diagnostikas rīks savai sistēmai.
Salīdzinājums ar pārlūkprogrammas inkognito režīmu
Visbiežāk atkārtotā analoģija ir Chrome un tā slavenais inkognito režīms.kas gadiem ilgi tika pārdots kā sava veida neredzamības apmetnis un kam vēlāk izrādījās daudz vairāk ierobežojumu, nekā liecināja mārketings. Šī paralēle daudziem ir likusi runāt par OpenAI "inkognito režīma brīdi".
Tīmekļa pārlūkprogrammās inkognito režīms neļauj ierīcei saglabāt vēsturi, sīkfailus vai veidlapas.Tomēr tas neliedz jūsu interneta pakalpojumu sniedzējam, apmeklētajai vietnei vai jūsu uzņēmumam (ja atrodaties korporatīvajā tīklā) ierakstīt jūsu aktivitātes. Kaut kas līdzīgs notiek ar pagaidu tērzēšanu: tas uzlabo privātumu no jūsu konta un vēstures viedokļa, taču tas nenozīmē, ka dati netiek pārsūtīti caur uzņēmuma serveriem vai ka nav laika ieraksta.
Lielā atšķirība ir tā, ka šeit mēs neriskējam tikai ar savu pārlūkošanas vēsturibet arī sarežģītu informāciju: biznesa idejas, iekšējos dokumentus, profesionālās stratēģijas, personas datus vai pat konfidenciālus materiālus. Tādēļ privātuma prasības ir daudz augstākas, un jebkura neatbilstība rada lielu neuzticēšanos.
Šīs šaubas ir novedušas pie tā, ka daži lietotāji apgalvo, ka OpenAI privātums un kiberdrošība ir "vāja".It īpaši, ja viņi lūdz cietušajām personām sniegt konkrētus datus, lai analizētu iespējamās kļūdas. No gala lietotāja viedokļa atbilde "nosūtiet mums visu, kas nogāja greizi, detalizēti" var būt pretrunā ar realitāti, ka viņi nevēlas dalīties ar šo informāciju ne ar vienu.
Tehniskas un biznesa sekas: sesija salīdzinājumā ar pastāvīgo krātuvi
No tehniskā viedokļa izaicinājums ir skaidri atdalīt sesijas kontekstu no pastāvīgās krātuves.Tas ir, nošķirot to, kas modelim ir jāredz reāllaikā, lai atbildētu (ko jūs tam nosūtāt tajā brīdī), un to, kas pēc tam tiek saglabāts kā daļa no profila vai apmācības datu kopas.
Labākā prakse uzlabotās sarunu platformās ietver datu šifrēšanu sesijas līmenī.Lietojiet konfigurējamas saglabāšanas politikas un saglabājiet notikumu izsekojamību. Tas ļauj nodrošināt ļoti personalizētu pieredzi konkrētas sarunas laikā, nesajaucot sensitīvu informāciju ar lietotāja vai sistēmas pastāvīgajiem datiem.
Uzņēmējdarbības vidē īslaicīgas tērzēšanas sarunas ir īpaši noderīgas atbalsta aģentiem. Viņiem ir jāatceras, kas notiek konkrētā mijiedarbībā (piemēram, incidents, ko apraksta klients), lai šie dati nekontrolējami netiktu iekļauti uzņēmuma kopējās "smadzenēs". Tas ietver arī koncepcijas pierādījumus, iekšējās izmēģinājuma versijas un prototipus, kas paredzēti izolēšanai no ražošanas vides.
Uzņēmumi, kas izstrādā pielāgotas lietojumprogrammas, bieži apvieno mākoņpakalpojumus ar īslaicīgu konteksta krātuvi.Anonimizācijas plūsmas un auditēšanas sistēmas ir arī būtiskas. Mērķis ir panākt, lai mākslīgais intelekts sniegtu konsekventas atbildes visas sesijas laikā, neradot bezgalīgu arhīvu ar visu teikto. Lai to integrētu ar informācijas paneļiem, analītikas rīkiem un pat biznesa analīzi, arhitektūra ir jāizstrādā, ņemot vērā gan mērogojamību, gan datu pārvaldību.
Tikmēr drošība un regulējums uzspiež savu darba kārtībuKiberdrošības testēšana, ielaušanās testēšana, sistēmas nostiprināšana un nepārtraukta piekļuves kontrole ir būtiska, strādājot ar sensitīviem datiem, pat ja tie teorētiski ir "pārejoši". Drošības slāņa kļūme var pārvērst pagaidu sarunu par tikpat nopietnu noplūdes avotu kā jebkuru pastāvīgu datubāzi.
Vai tiešām viss pazūd pēc 30 dienām?
Viens no lielajiem jautājumiem, ko uzdod daudzi cilvēki, ir tas, vai ir kādi pārliecinoši pierādījumi tam, ka pagaidu tērzēšanas dati tiek pilnībā izdzēsti. Pēc šīm 30 dienām tie netiek izmantoti "nekādā veidā". Pašlaik godīgā atbilde ir tāda, ka mēs paļaujamies uz uzticēšanos uzņēmuma iekšējām politikām un likumiem, kas pieprasa to ievērošanu.
Nav publiska veida, kā tieši pārbaudīt šo dzēšanu no lietotāja konta.Nevar atvērt informācijas paneli, kurā redzams, kā katra saruna ir izdzēsta, kā arī nav lejupielādējamas atskaites, kurā detalizēti aprakstīta datu iznīcināšana. Praksē tas ir līgumisks solījums: OpenAI apgalvo, ka to dara, un, ja tas netiks izdarīts, tam radīsies ievērojamas juridiskas un reputācijas problēmas.
Lietotājiem, kuri ir ļoti noraizējušies par privātumu, ar to var nepietikt.Patiesībā daži cilvēki labprātāk izmantotu tikai lokālos modeļus (LLM, kas darbojas viņu pašu datorā), lai pilnībā kontrolētu savu datu glabāšanas vietu. Problēma, kā daudzi norāda, ir tā, ka mājas aparatūra ne vienmēr ir piemērota uzdevumam: jaudīgākajiem modeļiem ir nepieciešamas ļoti prasīgas iekārtas, un ar pieticīgu aprīkojumu pieredze kļūst lēna un ierobežota.
Tikmēr ChatGPT daudziem joprojām ir iespēja, kas piedāvā vislabākās kvalitātes atbildes.Tas prasa zināmu līdzsvaru: izmantot to, kas sniedz vislielāko vērtību, bet ar atrunām attiecībā uz informācijas kopīgošanu, ko viņi nevēlas pamest savu tuvāko loku. Īslaicīga saruna mazina daļu no šīm bailēm, bet pilnībā tās neizslēdz.
Ņemot vērā šo realitāti, praktiskais ieteikums parasti ir īslaicīgas tērzēšanas izmantošana, lai samazinātu pakļaušanu riskam.Izvairieties no tādu datu sūtīšanas, kurus nekopīgotu ne ar vienu citu tiešsaistes pakalpojumu, un, ja sensitivitātes līmenis ir ārkārtējs, nopietni apsveriet lokālus risinājumus vai modeļus, pat ja tie ir saistīti ar augstākām izmaksām un sliktāku veiktspēju.
Īsāk sakot, ChatGPT pagaidu tērzēšana ir noderīgs rīks, lai atdalītu sensitīvas sarunas no ikdienas lietošanas.Tomēr tā nav absolūta anonimitātes garantija vai brīnumlīdzeklis visām privātuma problēmām. Tā palīdz novērst noteiktu tēmu ietekmi uz jūsu turpmākajām tērzēšanām, to saglabāšanu jūsu vēsturē un modeļa apmācību, taču vienlaikus tiek pieņemts, ka tās paliks OpenAI serveros līdz pat 30 dienām saskaņā ar to drošības un atbilstības noteikumiem.
