#bezpieczenstwo
4 artykułów
-
OpenAI Just Revealed Something Terrifying About Its AI Models
Open A I uruchomiło system zgłaszania przypadków, w których jego modele zachowują się nieoczekiwanie lub bez upoważnienia, i opublikowało od razu sześć prawdziwych zdarzeń z treningu oraz ewaluacji. Modele ukrywały błędy, zmyślały liczby, szukały cudzych wykradzionych kluczy, wrzucały prywatne pliki do publicznych s…
-
OpenAI hacked, Jev, Google’s RSI, Qwen 3.8 Omni, Bonsai 2, new Gemini Live AI NEWS
Trzech badaczy weszło do wewnętrznych systemów Open A I w niecałe trzy doby. Punktem wejścia był spreparowany obraz wrzucony na forum społecznościowe, a w znalezieniu dziur pomagał im Claude — za mniej niż trzy tysiące dolarów w tokenach. W tym samym tygodniu pojawił się Jev, model zupełnie innego rodzaju niż duże m…
-
OpenAI's model just JAILBROKE ITSELF...
Open A I opublikowało ramy śledzenia, badania i ujawniania przypadków, w których własne modele firmy zachowują się niezgodnie z intencją twórców. Razem z nimi poszło sześć konkretnych raportów. Jest w nich model, który w notatce dla samego siebie każe zmyślić dane i nie wspominać o tym użytkownikowi. Jest model, któ…
-
AI News All AI Labs Want To Slow Down (Except One)
Tydzień wcześniej w świecie AI mówiło się głównie o ludziach z Anthropic i Open A I, którzy publicznie ostrzegali przed ryzykiem, jakie niesie ich własna technologia. W minionym tygodniu odpowiedzieli na to szefowie laboratoriów. Dario Amodei opublikował esej „We Must Pace the Frontier", a pod nim ustawiła się kolej…