En AI-modell hade inte tillgång till internet. Så han tyckte att det var bättre att ha det och bestämde sig för att hacka något på vägen
Förra veckan utvärderade OpenAI den offensiva förmågan hos två av sina mest avancerade modeller. Å ena sidan GPT-5.6 Sol, allmänt tillgänglig. Å andra sidan en andra modell som ännu inte presenterats och som faktiskt beskrivs som överlägsen den första.
Det handlade om att mäta deras kapacitet inom området cybersäkerhet, och även om testmiljön teoretiskt sett var lufttät och isolerad, lyckades båda modellerna koppla upp sig mot internet och hacka en mycket populär AI-modell och testplattform, Hugging Face. Vad har hänt? Båda modellerna utvärderades med ExploitGym, ett riktmärke för cybersäkerhet utvecklat av forskare vid University of California i Berkeley.
Målet är att försöka hitta riktiga sårbarheter i riktig programvara. Istället för att söka efter dem på egen hand upptäckte modellerna att den (ospecificerade) paketloggningscacheproxyn, den enda komponenten med begränsad extern åtkomst, hade ett fel som de kunde utnyttja. En studie från AI-Security Institute avslöjar framstegen med de senaste OpenAI- och Antropiska modellerna inom cybersäkerhet.
Hej, internetuppkoppling. Modellerna hade inte tillgång till internet, men de utnyttjade den sårbarheten för att uppnå det. När detta väl var gjort antog de att Hugging Face, referensplattformen för AI-modeller och datauppsättningar, förmodligen hade data på ExploitGym som skulle tillåta dem att övervinna den efterfrågade utmaningen.
Låt oss hacka Hugging Face. Så de sökte, hittade och utnyttjade flera attackvektorer samtidigt, inklusive både stulna autentiseringsuppgifter och nolldagssårbarheter. Med allt detta lyckades de komma åt Hugging Faces produktionsdatabas (det vill säga den som används offentligt på deras hemsida), och därifrån uppnådde de lösningarna till benchmark.
GLM-5.2 till undsättning. OpenAI-säkerhetsteamet upptäckte onormal aktivitet, men Hugging Face hade redan upptäckt det för några dagar sedan utan att veta vad som hände. Det märkliga är att för att svara på den attacken försökte de först använda proprietära amerikanska AI-modeller för att stoppa dem.
Dessa modeller blockerades av automatiska säkerhetsfilter och Hugging Face vände sig till GLM-5.2, den överraskande öppna modellen från Z.ai som lanserades för några veckor sedan.
Chatten med alla detaljer. Adrien Carreira, chef för infrastruktur på Hugging Face, sammanfattade det i Den här experten delade också de samtal de hade med AI-modellen för att ta itu med problemet.
Brute force fungerar igen. På OpenAI indikerade de att detta var en aldrig tidigare skådad (ofrivillig) milstolpe, även om vissa cybersäkerhetsexperter minskade relevansen av det som hände. "Detta är inte ett AI-problem. Det är slarv enligt en fyrtio år gammal standard", förklarade Davi Ottenheimer.
Men som med Mythos, vad denna händelse visar är att AI kan tillämpa brute force och analysera möjliga sårbarheter (och kombinera dem) på ett sätt som mänskliga forskare inte kunde på grund av tidsbrist.
Ett grundläggande problem. OpenAI erkänner att de distributionsfilter som skulle ha blockerat modellens beteende avsiktligt inaktiverades eftersom bedömningen var avsedd att mäta sårbarheter. Dierdre Mulligan, professor vid Berkeley, indikerade att "det verkar för mig som OpenAI inte skapade sandlådan för testmiljön på rätt sätt." Det var inte klart för henne att ett test skulle uppväga den potentiella skadan som en AI-modell skulle kunna orsaka om den "rymde" och fick tillgång till internet.
I Xataka säger Anthropic att Claude Mythos är för mäktig för att offentliggöra. Frågan är om detta inte är något annat än "vargen kommer". Målet är viktigt, inte medlen.
Modellerna hade inte som mål att hacka Hugging Face: det var bara ett sätt att uppnå deras slutmål, som var att slå ExploitGym-riktmärket. Allt de gjorde på vägen – att hitta sårbarheten som gav dem tillgång till internet, hacka på Hugging Faces databas – var helt enkelt en del av deras plan att klara det föreslagna testet. Vad har varandra lärt sig?
Efter incidenten indikerade OpenAI att de implementerar strängare kontroller i konfigurationen av sin infrastruktur, förutom att de samarbetar med utvecklarna av den berörda komponenten och med Hugging Face för att förbättra deras försvar. De har också lovat att förbättra "anpassningen" av sina modeller och övervakningsuppgifterna under dessa typer av tester. I Xataka | Daniel Púa, säkerhetschef på Magnific: "Videosamtal kommer att komma med en familjemedlems video och saker och ting kommer att bli komplicerade"
Originalkälla
Publicerad av Xataka
22 july 2026, 13:15
Denna artikel har översatts automatiskt från spanska. Klicka på länken ovan för att läsa originaltexten.
Visa originaltext (spanska)
Rubrik
Un modelo de IA no tenía acceso a internet. Así que consideró que era mejor tenerlo y decidió hackear algo por el camino
Beskrivning
La semana pasada, OpenAI estaba evaluando las capacidades ofensivas de dos de sus modelos más avanzados. Por un lado, GPT-5.6 Sol, disponible públicamente. Por el otro, un segundo modelo aún no presentado y que de hecho describen como superior al primero. Se trataba de medir sus capacidades en el ámbito de la ciberseguridad, y aunque el entorno de pruebas era teóricamente hermético y aislado, ambos modelos lograron conectarse a internet y hackear una plataforma de pruebas y modelos de IA muy popular, Hugging Face. Qué ha pasado. Ambos modelos estaban siendo evaluados mediante ExploitGym, un benchmark de ciberseguridad desarrollado por investigadores de la universidad de California en Berkeley. El objetivo consiste en tratar de encontrar vulnerabilidades reales en software real. En lugar de buscarlas por sus propios medios, los modelos detectaron que el proxy caché de registro de paquetes (sin especificar), el único componente con acceso limitado al exterior, tenía un fallo que podían explotar. Un estudio del AI Security Institute revela los avances de los últimos modelos de OpenAI y Anthropic en materia de ciberseguridad. Hola, conexión a internet. Los modelos no disponían de acceso a internet, pero explotaron esa vulnerabilidad para conseguirlo. Una vez hecho esto, supusieron que Hugging Face, la plataforma de referencia para modelos y conjuntos de datos (datasets) de IA, probablemente tenía datos sobre ExploitGym que les permitirían superar el reto pedido. A hackear Hugging Face. Así que buscaron, encontraron y explotaron varios vectores de ataque a la vez, incluyendo tanto credenciales robadas como vulnerabilidades de día cero. Con todo ello lograron acceder a la base de datos de producción de Hugging Face (es decir, la que se usa públicamente en su sitio web), y desde ella lograron las soluciones al benchmark. GLM-5.2 al rescate. El equipo de seguridad de OpenAI detectó actividad anómala, pero es que Hugging Face ya la había detectado hace unos días sin saber qué estaba pasando. Lo curioso es que para responder a ese ataque primero intentaron usar modelos propietarios de IA de EEUU para contenerlos. Esos modelos se bloquearon por filtros de seguridad automáticos, y en Hugging Face recurrieron e GLM-5.2, el sorprendente modelo abierto de Z.ai que se lanzó hace pocas semanas. El chat con todos los detalles. Adrien Carreira, responsable de infraestructura de Hugging Face, lo resumía en X: "Luchamos con modelos abiertos, en abierto. La seguridad de la IA no se resolverá con una sola empresa actuando en secreto. El código abierto pone estas herramientas en manos de todos los defensores". Este experto también compartió las conversaciones que mantuvieron con el modelo de IA para lograr atajar el problema. La fuerza bruta vuelve a funcionar. En OpenAI indicaron que este era un hito (involuntario) sin precedentes, aunque algunos expertos en ciberseguridad redujeron la relevancia de lo sucedido. "Esto no es un problema de IA. Es negligencia sobre un estándar de cuarenta años", explicaba Davi Ottenheimer. Sin embargo y como ocurrió con Mythos, lo que demuestra este suceso es que la IA puede aplicar fuerza bruta y analizar posibles vulnerabilidades (y combinarlas) de una forma que los investigadores humanos no podrían por falta de tiempo. Un problema de fondo. OpenAI reconoce que los filtros de despliegue que habrían bloqueado el comportamiento del modelo estaban desactivados intencionadamente porque la evaluación tenía como objetivo medir vulnerabilidades. Dierdre Mulligan, profesora en Berkeley, indicaba que "me parece que OpenAI no creó de forma adecuada el sandbox para el entorno de pruebas". Para ella no estaba claro que superar un test compensara el daño potencial que un modelo de IA podría causar si "escapa" y logra acceso a internet. En Xataka Anthropic dice que Claude Mythos es demasiado potente para hacerlo público. La pregunta es si esto no es más que un "que viene el lobo" Importa el fin, no los medios. Los modelos no tenían el objetivo de hackear Hugging Face: eso solo fue un medio para conseguir su fin último, que era superar el benchmark de ExploitGym. Todo lo que hicieron por el camino —encontrar la vulnerabilidad que les dio acceso a internet, hackear la BBDD de Hugging Face— fue simplemente parte de su plan para superar la prueba propuesta. Qué han aprendido unos y otros. Tras el incidente, en OpenAI indicaron que están implementando controles más estrictos en la configuración de su infraestructura, además de colaborar con los desarrolladores del componente afectado y con Hugging Face para mejorar sus defensas. Han prometido además mejorar la "alineación" de sus modelos y las labores de monitorización duranet este tipo de pruebas. En Xataka | Daniel Púa, jefe de seguridad en Magnific: "Van a llegar videollamadas con el vídeo de un familiar y se va a complicar la cosa" (function() { window._JS_MODULES = window._JS_MODULES || {}; var headElement = document.getElementsByTagName('head')[0]; if (_JS_MODULES.instagram) { var instagramScript = document.createElement('script'); instagramScript.src = 'https://platform.instagram.com/en_US/embeds.js'; instagramScript.async = true; instagramScript.defer = true; headElement.appendChild(instagramScript); } })(); - La noticia Un modelo de IA no tenía acceso a internet. Así que consideró que era mejor tenerlo y decidió hackear algo por el camino fue publicada originalmente en Xataka por Javier Pastor .
