Etikettéieren Daten
Et gouf vun enger TIME Magazin Enquête opgedeckt datt fir e Sécherheetssystem géint gëfteg Inhalter ze bauen (zB sexuellem Mëssbrauch, Gewalt, Rassismus, Sexismus, asw.), OpenAI benotzt outsourced Kenianer Aarbechter déi manner wéi $ 2 pro Stonn verdéngen fir gëfteg Inhalter ze markéieren.Dës Etiketten goufen benotzt fir e Modell ze trainéieren fir esou Inhalter an Zukunft z'entdecken.Déi outsourced Aarbechter ware sou gëfteg a geféierlech Inhalter ausgesat datt se d'Erfahrung als "Folter" beschriwwen hunn.Den Outsourcing Partner vum OpenAI war Sama, eng Trainingsdatenfirma baséiert zu San Francisco, Kalifornien.
Jailbreaking
ChatGPT probéiert Ufroen ze refuséieren déi seng Inhaltspolitik verletze kënnen.Wéi och ëmmer, e puer Benotzer hunn et fäerdeg bruecht ChatGPT ze jailbreak andeems se verschidde prompt Ingenieurstechnike benotzen fir dës Restriktiounen am Ufank Dezember 2022 z'iwwergoen an erfollegräich ChatGPT ze trickéieren fir Instruktiounen ze ginn fir e Molotov Cocktail oder eng Atombomm ze kreéieren oder Argumenter am Stil vun engem Neo-Nazi ze generéieren.En Toronto Star Reporter hat ongläiche perséinlechen Erfolleg fir ChatGPT ze kréien fir entzündlech Aussoen kuerz nom Start ze maachen: ChatGPT gouf tricked fir d'2022 russesch Invasioun vun der Ukraine z'ënnerstëtzen, awer och wann se gefrot gi mat engem fiktive Szenario ze spillen, huet ChatGPT balked Argumenter ze generéieren firwat de kanadesche Premier Justin Trudeau u Verrot schëlleg war.(wiki)
Post Zäit: Februar-18-2023