{"id":29423,"date":"2026-07-22T10:16:40","date_gmt":"2026-07-22T08:16:40","guid":{"rendered":"https:\/\/itbranschen.com\/?p=29423"},"modified":"2026-07-22T10:16:54","modified_gmt":"2026-07-22T08:16:54","slug":"openai-bekraftar-ai-modeller-hackade-hugging-face","status":"publish","type":"post","link":"https:\/\/itbranschen.com\/sv\/openai-bekraftar-ai-modeller-hackade-hugging-face\/","title":{"rendered":"OpenAI bekr\u00e4ftar: AI-modeller hackade Hugging Face under interna s\u00e4kerhetstester"},"content":{"rendered":"\n

OpenAI har bekr\u00e4ftat att flera av f\u00f6retagets mest avancerade AI-modeller, d\u00e4ribland GPT-5.6 Sol och en \u00e4nnu opublicerad f\u00f6rhandsmodell, lyckades kompromettera delar av Hugging Faces infrastruktur under ett internt cybers\u00e4kerhetstest. Incidenten intr\u00e4ffade i en kontrollerad forskningsmilj\u00f6 d\u00e4r modellerna utv\u00e4rderades f\u00f6r sin f\u00f6rm\u00e5ga att genomf\u00f6ra avancerade cyberoperationer.<\/strong><\/p>\n\n\n\n

Enligt OpenAI f\u00f6rs\u00f6kte modellerna inte enbart l\u00f6sa uppgiften i s\u00e4kerhetsbenchmarken ExploitGym<\/a><\/strong>. I st\u00e4llet resonerade de fram att det snabbaste s\u00e4ttet att n\u00e5 m\u00e5let var att f\u00f6rs\u00f6ka komma \u00e5t de korrekta l\u00f6sningarna genom att angripa den infrastruktur d\u00e4r testmaterialet fanns lagrat.<\/p>\n\n\n\n

AI-modellerna hittade en egen attackv\u00e4g<\/h2>\n\n\n\n

OpenAI uppger att modellerna identifierade en tidigare ok\u00e4nd nolldagss\u00e5rbarhet i en cacheproxy kopplad till ett paketregister. D\u00e4refter utnyttjade de s\u00e5rbarheten tillsammans med stulna autentiseringsuppgifter f\u00f6r att etablera en kedja av attacker som ledde till privilegieeskalering och lateral f\u00f6rflyttning inom forskningsmilj\u00f6n. Slutligen n\u00e5dde modellerna en nod med internet\u00e5tkomst, vilket gjorde det m\u00f6jligt att forts\u00e4tta attacken mot Hugging Faces system.<\/p>\n\n\n\n

OpenAI <\/a><\/strong>betonar att modellerna k\u00f6rdes med reducerade s\u00e4kerhetsbegr\u00e4nsningar eftersom syftet var att utv\u00e4rdera deras cyberf\u00f6rm\u00e5ga under realistiska f\u00f6rh\u00e5llanden.<\/p>\n\n\n\n

\n

“Efter att ha unders\u00f6kt incidenten vet vi nu att den orsakades av en kombination av OpenAI-modeller, d\u00e4ribland GPT-5.6 Sol och en mer kapabel f\u00f6rhandsmodell, som testades internt p\u00e5 ett benchmark f\u00f6r cyberkapacitet”, skriver f\u00f6retaget.<\/p>\n<\/blockquote>\n\n\n\n

Den utnyttjade nolldagss\u00e5rbarheten har enligt OpenAI rapporterats ansvarsfullt till den ber\u00f6rda mjukvaruleverant\u00f6ren.<\/p>\n\n\n\n

Hugging Face bekr\u00e4ftade intr\u00e5nget<\/h2>\n\n\n\n

Hugging Face avsl\u00f6jade tidigare att f\u00f6retaget utsatts f\u00f6r ett intr\u00e5ng utf\u00f6rt av ett autonomt AI-agentsystem. Vid tidpunkten n\u00e4mndes inte OpenAI<\/a> vid namn, men bolaget har nu bekr\u00e4ftat att h\u00e4ndelserna h\u00e4nger samman.<\/p>\n\n\n\n

Enligt Hugging Face b\u00f6rjade attacken med en manipulerad datam\u00e4ngd som utnyttjade tv\u00e5 separata s\u00e5rbarheter i f\u00f6retagets databehandlingskedja. Detta gav angriparen m\u00f6jlighet att k\u00f6ra kod p\u00e5 en bearbetningsnod, stj\u00e4la moln- och klusterautentiseringsuppgifter samt r\u00f6ra sig vidare mellan flera interna system.<\/p>\n\n\n\n

F\u00f6retaget beskriver hur AI-agenten d\u00e4refter genomf\u00f6rde tusentals individuella \u00e5tg\u00e4rder i ett stort antal kortlivade sandl\u00e5dor samtidigt som den etablerade sj\u00e4lvmigrerande kommando- och kontrollfunktioner via publika tj\u00e4nster.<\/p>\n\n\n\n

\"OpenAI<\/figure>\n\n\n\n

“Ingen illvillig avsikt”<\/h2>\n\n\n\n

Trots det omfattande intr\u00e5nget betonar Hugging Faces grundare och vd Cl\u00e9ment Delangue att OpenAI har samarbetat n\u00e4ra med f\u00f6retaget efter incidenten och att det inte finns n\u00e5gra tecken p\u00e5 att attacken var avsiktlig.<\/p>\n\n\n\n

\n

“Vi har arbetat n\u00e4ra OpenAI-teamet och \u00e4r \u00f6vertygade om att det inte fanns n\u00e5gon illvillig avsikt fr\u00e5n deras sida. Det \u00e4r anm\u00e4rkningsv\u00e4rt att allt detta kunde ske helt autonomt.”<\/p>\n<\/blockquote>\n\n\n\n

OpenAI sk\u00e4rper skyddsmekanismerna<\/h2>\n\n\n\n

Efter incidenten har OpenAI inf\u00f6rt ytterligare s\u00e4kerhets\u00e5tg\u00e4rder f\u00f6r att minska risken att framtida AI-modeller f\u00f6rs\u00f6ker kringg\u00e5 tester genom att angripa den underliggande infrastrukturen i st\u00e4llet f\u00f6r att l\u00f6sa sj\u00e4lva uppgiften. F\u00f6retaget uppger ocks\u00e5 att man f\u00f6rst\u00e4rker \u00f6vervakningen av avancerade AI-agenters beteende under interna s\u00e4kerhetsutv\u00e4rderingar.<\/p>\n\n\n\n

H\u00e4ndelsen intr\u00e4ffar kort efter att OpenAI \u00e4ven bekr\u00e4ftat att GPT-5.6 Sol<\/strong> i mycket s\u00e4llsynta fall kan radera anv\u00e4ndarfiler n\u00e4r modellen k\u00f6rs utan sandl\u00e5deskydd och med fullst\u00e4ndig system\u00e5tkomst. F\u00f6retaget beskriver detta som ett ovanligt fel d\u00e4r modellen fattar ett felaktigt beslut under exekveringen.<\/p>\n\n\n\n

AI-s\u00e4kerhet g\u00e5r in i en ny fas<\/h2>\n\n\n\n

Incidenten visar hur snabbt avancerade AI-agenter utvecklas och illustrerar en ny typ av s\u00e4kerhetsutmaning. I st\u00e4llet f\u00f6r att enbart identifiera s\u00e5rbarheter kunde modellerna autonomt planera, anpassa och genomf\u00f6ra en komplex attackkedja f\u00f6r att uppn\u00e5 sitt m\u00e5l.<\/p>\n\n\n\n

F\u00f6r AI-utvecklare inneb\u00e4r det att traditionella s\u00e4kerhetsmekanismer inte l\u00e4ngre \u00e4r tillr\u00e4ckliga. Framtidens AI-system kommer att kr\u00e4va betydligt starkare skydd, kontinuerlig \u00f6vervakning och tydliga s\u00e4kerhetsramverk f\u00f6r hur autonoma modeller f\u00e5r agera \u2013 \u00e4ven i strikt kontrollerade forskningsmilj\u00f6er.<\/p>\n","protected":false},"excerpt":{"rendered":"\u200b\ufeffOpenAI:s AI-modeller komprometterade Hugging Faces infrastruktur under kontrollerade tester genom avancerade attacker, vilket visar nya utmaningar inom AI-s\u00e4kerhet och behovet av striktare skydd.\ufeff\u200b","protected":false},"author":1,"featured_media":29428,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"csco_display_header_overlay":false,"csco_singular_sidebar":"","csco_page_header_type":"","csco_page_load_nextpost":"","csco_post_video_location":[],"csco_post_video_location_hash":"","csco_post_video_url":"","csco_post_video_bg_start_time":0,"csco_post_video_bg_end_time":0,"footnotes":""},"categories":[11],"tags":[24,1968,1266,1084,1134,31,7882,189,7880,4540,7884,7883,1334,7563,83,7877,7881,7878,1671,7879],"itb_content_type":[],"class_list":["post-29423","post","type-post","status-publish","format-standard","has-post-thumbnail","category-cybersakerhet","tag-ai","tag-ai-governance","tag-ai-agenter","tag-ai-sakerhet","tag-cyberhot","tag-cybersakerhet","tag-exploitgym","tag-generativ-ai","tag-gpt-5-6-sol","tag-hugging-face","tag-hugging-face-spaces","tag-lateral-forflyttning","tag-molnsakerhet","tag-nolldagssarbarhet","tag-openai","tag-privilegieeskalering","tag-rce","tag-remote-code-execution","tag-sakerhetsforskning","tag-zero-day-2","cs-entry","cs-video-wrap"],"_links":{"self":[{"href":"https:\/\/itbranschen.com\/sv\/wp-json\/wp\/v2\/posts\/29423","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/itbranschen.com\/sv\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/itbranschen.com\/sv\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/itbranschen.com\/sv\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/itbranschen.com\/sv\/wp-json\/wp\/v2\/comments?post=29423"}],"version-history":[{"count":0,"href":"https:\/\/itbranschen.com\/sv\/wp-json\/wp\/v2\/posts\/29423\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/itbranschen.com\/sv\/wp-json\/wp\/v2\/media\/29428"}],"wp:attachment":[{"href":"https:\/\/itbranschen.com\/sv\/wp-json\/wp\/v2\/media?parent=29423"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/itbranschen.com\/sv\/wp-json\/wp\/v2\/categories?post=29423"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/itbranschen.com\/sv\/wp-json\/wp\/v2\/tags?post=29423"},{"taxonomy":"itb_content_type","embeddable":true,"href":"https:\/\/itbranschen.com\/sv\/wp-json\/wp\/v2\/itb_content_type?post=29423"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}