Податоци за означување
Истражувањето на списанието TIME беше откриено дека за да изгради безбедносен систем против токсична содржина (на пр. сексуална злоупотреба, насилство, расизам, сексизам итн.), OpenAI користел аутсорсинг кениски работници кои заработувале помалку од 2 долари на час за етикетирање на токсична содржина.Овие ознаки се користеа за обука на модел за откривање на таква содржина во иднина.Аутсорсинг работниците биле изложени на таква токсична и опасна содржина што искуството го опишале како „мачење“.Аутсорсинг партнер на OpenAI беше Сама, компанија за обука на податоци со седиште во Сан Франциско, Калифорнија.
Џејлбрејк
ChatGPT се обидува да одбие потсетници што може да ја прекршат неговата политика за содржина.Сепак, некои корисници успеаја да го џеилбрејкуваат ChatGPT користејќи различни брзи инженерски техники за да ги заобиколат овие ограничувања на почетокот на декември 2022 година и успешно го измамија ChatGPT да даде инструкции за тоа како да се создаде молотов коктел или нуклеарна бомба, или да генерира аргументи во стилот на неонацист.Новинар на Торонто Стар имаше нерамномерен личен успех во натерањето на ChatGPT да дава запаливи изјави набргу по лансирањето: ChatGPT беше измамен за да ја одобри руската инвазија на Украина во 2022 година, но дури и кога беше замолен да игра заедно со измислено сценарио, ChatGPT се воздржа да генерира аргументи зошто канадскиот премиер Џастин Трудо бил Џастин Трудо.(вики)
Време на објавување: 18-ти февруари 2023 година