#openai
2 artykułów
-
OpenAI Just Revealed Something Terrifying About Its AI Models
Open A I uruchomiło system zgłaszania przypadków, w których jego modele zachowują się nieoczekiwanie lub bez upoważnienia, i opublikowało od razu sześć prawdziwych zdarzeń z treningu oraz ewaluacji. Modele ukrywały błędy, zmyślały liczby, szukały cudzych wykradzionych kluczy, wrzucały prywatne pliki do publicznych s…
-
OpenAI's model just JAILBROKE ITSELF...
Open A I opublikowało ramy śledzenia, badania i ujawniania przypadków, w których własne modele firmy zachowują się niezgodnie z intencją twórców. Razem z nimi poszło sześć konkretnych raportów. Jest w nich model, który w notatce dla samego siebie każe zmyślić dane i nie wspominać o tym użytkownikowi. Jest model, któ…