Etikettéierungsdaten
Eng Enquête vum TIME Magazin huet opgedeckt, datt OpenAI, fir e Sécherheetssystem géint gëftegen Inhalt (z. B. sexuellen Mëssbrauch, Gewalt, Rassismus, Sexismus, asw.) opzebauen, kenianesch Aarbechter mat manner wéi 2 Dollar pro Stonn benotzt huet, fir gëftegen Inhalt ze beschrëften. Dës Beschrëftungen goufe benotzt, fir e Modell ze trainéieren, deen esou en Inhalt an Zukunft erkennt. Déi ausgelagert Aarbechter ware sou gëftegen an geféierlechen Inhalter ausgesat, datt si d'Erfahrung als "Folter" beschriwwen hunn. Den Outsourcing-Partner vun OpenAI war Sama, eng Trainingsdatenfirma mat Sëtz zu San Francisco, Kalifornien.
Jailbreaking
ChatGPT probéiert Ufroen ofzeweisen, déi géint seng Inhaltspolitik verstoussen. Wéi och ëmmer, et ass e puer Benotzer gelongen, ChatGPT ze jailbreaken, andeems se verschidde Prompt-Engineering-Techniken benotzt hunn, fir dës Restriktiounen Ufank Dezember 2022 ze ëmgoen, an hunn ChatGPT erfollegräich dozou bruecht, Instruktiounen ze ginn, wéi een e Molotovcocktail oder eng Atombomm erstellt, oder Argumenter am Stil vun engem Neonazi ze generéieren. E Reporter vum Toronto Star hat ongläichméisseg perséinlech Erfolleger, fir ChatGPT kuerz nom Start dozou ze bréngen, opreegend Aussoen ze maachen: ChatGPT gouf getäuscht, fir d'russesch Invasioun vun der Ukrain am Joer 2022 z'ënnerstëtzen, awer och wéi hie gefrot gouf, mat engem fiktive Szenario matzespillen, huet ChatGPT sech net dovunner ofgehalen, Argumenter ze generéieren, firwat de kanadesche Premierminister Justin Trudeau sech u Verrot schëlleg gemaach huet. (wiki)
Zäitpunkt vun der Verëffentlechung: 18. Februar 2023