Məlumatların etiketlənməsi
Zəhərli məzmuna (məsələn, cinsi zorakılıq, zorakılıq, irqçilik, cinsiyyətçilik və s.) qarşı təhlükəsizlik sistemi qurmaq üçün OpenAI zəhərli məzmunu etiketləmək üçün saatda 2 dollardan az qazanan Keniyalı işçilərdən istifadə edib.Bu etiketlər gələcəkdə belə məzmunu aşkar etmək üçün bir model hazırlamaq üçün istifadə edilmişdir.Xarici işçilər o qədər zəhərli və təhlükəli məzmuna məruz qaldılar ki, onlar təcrübəni “işgəncə” kimi təsvir etdilər.OpenAI-nin autsorsinq tərəfdaşı Kaliforniyanın San Fransisko şəhərində yerləşən təlim-məlumat şirkəti Sama idi.
Jailbreaking
ChatGPT məzmun siyasətini poza biləcək göstərişləri rədd etməyə çalışır.Bununla belə, bəzi istifadəçilər 2022-ci ilin dekabr ayının əvvəlində bu məhdudiyyətlərdən yan keçmək üçün müxtəlif operativ mühəndislik üsullarından istifadə edərək ChatGPT-ni jailbreak etməyə müvəffəq oldular və ChatGPT-ni uğurla aldadıblar ki, Molotov kokteyli və ya nüvə bombası yaratmaq və ya neo-nasist üslubunda arqumentlər yaratmaq üçün təlimatlar veriblər.Toronto Star müxbiri ChatGPT-ni işə salındıqdan qısa müddət sonra qızışdırıcı bəyanatlar verməkdə qeyri-bərabər şəxsi uğur qazandı: ChatGPT 2022-ci ildə Rusiyanın Ukraynaya hücumunu dəstəkləmək üçün aldadıldı, lakin hətta uydurma bir ssenari ilə birlikdə oynamaq istənilsə belə, ChatGPT Kanadanın Baş Naziri Truliandinau ilə bağlı arqumentlər yaratmaqdan çəkindi.(viki)
Göndərmə vaxtı: 18 fevral 2023-cü il