Податоци за етикетирање
Истражувањето на списанието TIME откри дека за да изгради систем за безбедност од токсична содржина (на пр. сексуална злоупотреба, насилство, расизам, сексизам итн.), OpenAI користел надворешни кениски работници кои заработуваат помалку од 2 долари на час за да етикетираат токсична содржина. Овие етикети биле користени за обука на модел за откривање на таква содржина во иднина. Надворешните работници биле изложени на таква токсична и опасна содржина што го опишале искуството како „тортура“. Партнер за надворешни работници на OpenAI била Sama, компанија за обука на податоци со седиште во Сан Франциско, Калифорнија.
Џајлбрејк
ChatGPT се обидува да ги отфрли барањата што може да ја прекршат неговата политика за содржина. Сепак, некои корисници успеаја да го „џејлбрејк“ ChatGPT користејќи разни техники за инженерство на барања за да ги заобиколат овие ограничувања на почетокот на декември 2022 година и успешно го измамија ChatGPT да дава упатства за тоа како да се создаде молотов коктел или нуклеарна бомба, или да генерира аргументи во стилот на неонацист. Репортер на „Торонто Стар“ имаше нееднаков личен успех во наведувањето на ChatGPT да дава провокативни изјави кратко време по лансирањето: ChatGPT беше измамен да ја поддржи руската инвазија на Украина во 2022 година, но дури и кога беше замолен да се согласи со измислено сценарио, ChatGPT се воздржа од генерирање аргументи за тоа зошто канадскиот премиер Џастин Трудо е виновен за предавство. (вики)
Време на објавување: 18 февруари 2023 година