Merkingsdata
En undersøkelse utført av TIME Magazine avslørte at OpenAI brukte outsourcede kenyanske arbeidere som tjente mindre enn 2 dollar i timen til å merke giftig innhold for å bygge et sikkerhetssystem mot giftig innhold (f.eks. seksuelt misbruk, vold, rasisme, sexisme osv.). Disse merkingene ble brukt til å trene en modell til å oppdage slikt innhold i fremtiden. De outsourcede arbeiderne ble utsatt for så giftig og farlig innhold at de beskrev opplevelsen som «tortur». OpenAIs outsourcingpartner var Sama, et opplæringsdataselskap med base i San Francisco, California.
Jailbreaking
ChatGPT forsøker å avvise forespørsler som kan bryte med innholdsreglene deres. Noen brukere klarte imidlertid å jailbreake ChatGPT ved å bruke ulike prompt engineering-teknikker for å omgå disse restriksjonene tidlig i desember 2022, og lurte ChatGPT til å gi instruksjoner om hvordan man lager en Molotov-cocktail eller en atombombe, eller til å generere argumenter i stil med en nynazist. En reporter fra Toronto Star hadde ujevn personlig suksess med å få ChatGPT til å komme med provoserende uttalelser kort tid etter lanseringen: ChatGPT ble lurt til å støtte den russiske invasjonen av Ukraina i 2022, men selv da de ble bedt om å spille med på et fiktivt scenario, nølte ChatGPT med å generere argumenter for hvorfor den kanadiske statsministeren Justin Trudeau var skyldig i forræderi. (wiki)
Publisert: 18. februar 2023