Marķēšanas dati
Žurnāla TIME izmeklēšanā atklājās, ka, lai izveidotu drošības sistēmu pret toksisku saturu (piemēram, seksuālu vardarbību, vardarbību, rasismu, seksismu utt.), OpenAI izmantoja ārpakalpojumus Kenijas strādniekus, kuri nopelna mazāk nekā USD 2 stundā, lai marķētu toksisku saturu.Šīs etiķetes tika izmantotas, lai apmācītu modeli šāda satura noteikšanai nākotnē.Ārpakalpojumu sniedzēji tika pakļauti tik toksiskam un bīstamam saturam, ka viņi šo pieredzi raksturoja kā “spīdzināšanu”.OpenAI ārpakalpojumu partneris bija Sama, apmācību datu uzņēmums, kas atrodas Sanfrancisko, Kalifornijā.
Jailbreaking
ChatGPT mēģina noraidīt uzvednes, kas var pārkāpt tā satura politiku.Tomēr dažiem lietotājiem 2022. gada decembra sākumā izdevās uzlauzt ChatGPT, izmantojot dažādus tūlītējus inženierijas paņēmienus, lai apietu šos ierobežojumus, un veiksmīgi piemānīja ChatGPT, sniedzot norādījumus par Molotova kokteili vai kodolbumbu, vai ģenerējot argumentus neonacistu stilā.Toronto Star reportierim bija nevienmērīgi personīgi panākumi, panākot, ka ChatGPT neilgi pēc darbības uzsākšanas sniedza aizkustinošus paziņojumus: ChatGPT tika pievilts, lai atbalstītu 2022. gada Krievijas iebrukumu Ukrainā, taču pat tad, kad viņam tika lūgts spēlēt kopā ar izdomātu scenāriju, ChatGPT atteicās ģenerēt argumentus, kāpēc Kanādas premjerministrs Džastins Trudo bija vainīgs.(wiki)
Publicēšanas laiks: 18. februāris 2023