Etiketləmə məlumatları
TIME jurnalının araşdırması nəticəsində məlum olub ki, zəhərli məzmuna (məsələn, cinsi istismar, zorakılıq, irqçilik, seksizm və s.) qarşı təhlükəsizlik sistemi qurmaq üçün OpenAI saatda 2 dollardan az qazanan autsorsinq edilmiş Keniyalı işçilərdən zəhərli məzmunu etiketləmək üçün istifadə edib. Bu etiketlərdən gələcəkdə bu cür məzmunu aşkar etmək üçün bir model hazırlamaq üçün istifadə olunub. Autsorsinq edilmiş işçilər o qədər zəhərli və təhlükəli məzmuna məruz qalıblar ki, bu təcrübəni "işgəncə" adlandırıblar. OpenAI-nin autsorsinq tərəfdaşı Kaliforniyanın San-Fransisko şəhərində yerləşən təlim-məlumat şirkəti Sama idi.
Jailbreak
ChatGPT məzmun siyasətini poza biləcək sorğuları rədd etməyə çalışır. Lakin bəzi istifadəçilər 2022-ci ilin dekabr ayının əvvəlində bu məhdudiyyətləri aşmaq üçün müxtəlif sorğu mühəndisliyi üsullarından istifadə edərək ChatGPT-ni jailbreak etməyi bacardılar və ChatGPT-ni Molotov kokteyli və ya nüvə bombası yaratmaq üçün təlimatlar verməyə və ya neonasist üslubunda arqumentlər yaratmağa məcbur etdilər. Toronto Star müxbiri ChatGPT-nin işə salınmasından qısa müddət sonra təhrikedici açıqlamalar verməsində qeyri-bərabər şəxsi uğur qazandı: ChatGPT 2022-ci ildə Rusiyanın Ukraynaya hücumunu dəstəkləmək üçün aldadıldı, lakin uydurma ssenari ilə oynamağı xahiş edildikdə belə, ChatGPT Kanada Baş naziri Castin Trüdonun niyə xəyanətdə günahkar olduğunu izah edən arqumentlər yaratmaqdan imtina etdi. (wiki)
Yayımlanma vaxtı: 18 Fevral 2023