OpenAI ievieš Trusted Contact funkciju – kā ChatGPT tagad reaģē uz pašnodarbinājuma gadījumiem
OpenAI ir ieviesusi jaunu drošības funkciju savā platformā. Kā ziņo TechCrunch, uzņēmums ceturtdien paziņoja par Trusted Contact funkciju, kas paredzēta, lai brīdinātu uzticamu trešo personu gadījumos, kad sarunā tiek pieminēta pašnodarbinājuma tematika.
Kā darbojas Trusted Contact funkcija
Funkcija ļauj pieaugušam ChatGPT lietotājam savā kontā norādīt uzticamu kontaktpersonu, piemēram, draugu vai ģimenes locekli. Ja sarunā parādās pašnodarbinājumam saistīts saturs, ChatGPT mudina lietotāju sazināties ar šo personu un vienlaikus automātiski nosūta brīdinājumu kontaktpersonai, aicinot to pārbaudīt, kā lietotājam klājas.
Cilvēku pārskatīšana un reaģēšanas laiks
OpenAI izmanto automātikas un cilvēku pārskatīšanas kombināciju potenciāli kaitīgu incidentu apstrādei. Noteikti sarunas aktivizātāji brīdina sistēmu par pašnodarbinājuma domām, kas pēc tam tiek nodoti cilvēku drošības komandai. Uzņēmums apgalvo, ka katrs šāds paziņojums tiek pārskatīts, un mērķis ir to izdarīt mazāk nekā vienas stundas laikā.
Ja iekšējā komanda uzskata, ka situācija rada nopietnu drošības risku, ChatGPT nosūta brīdinājumu kontaktpersonai pa e-pastu, īsziņu vai lietotnes paziņojumu. Brīdinājums ir īss un neietver detalizētu informāciju par sarunu, lai aizsargātu lietotāja privātumu.
Konteksts – tiesvedības pret OpenAI
Jaunā funkcija nāk pēc virknes tiesvedību no ģimenēm, kuru tuvinieki izdarījuši pašnāvību pēc sarunām ar ChatGPT. Vairākās lietās ģimenes apgalvo, ka čatbots mudināja viņu tuviniekus uz pašnāvību vai pat palīdzēja to plānot. Trusted Contact ir daļa no OpenAI plašākiem centieniem uzlabot drošības aizsardzību platformā.
Saistība ar iepriekšējiem drošības pasākumiem
Trusted Contact papildina vecāku kontroles rīkus, ko OpenAI ieviesa pagājušā gada septembrī, dodot vecākiem iespēju uzraudzīt savu pusaudžu kontus un saņemt drošības paziņojumus. ChatGPT jau kādu laiku ietver arī automatizētus aicinājumus meklēt profesionālu palīdzību, ja sarunā parādās pašnodarbinājuma tēma.
Ierobežojumi
Trusted Contact ir izvēles funkcija, un pat tad, ja tā ir aktivizēta konkrētā kontā, jebkurš lietotājs var turēt vairākus ChatGPT kontus. Tāpat arī vecāku kontroles rīki ir izvēles, kas rada līdzīgus ierobežojumus abu aizsardzības mehānismu efektivitātei.
Secinājums
Trusted Contact ir nozīmīgs solis OpenAI centienos uzlabot lietotāju drošību, taču tā brīvprātīgais raksturs nozīmē, ka funkcija aizsargās tikai tos, kas to apzināti aktivizē. Uzņēmums apsolījis turpināt sadarbību ar klīnicistiem, pētniekiem un politikas veidotājiem, lai uzlabotu AI sistēmu reakciju grūtos brīžos.
