{"id":269101,"date":"2026-08-27T15:16:35","date_gmt":"2026-08-27T18:16:35","guid":{"rendered":"https:\/\/corrientesdetarde.com\/?p=269101"},"modified":"2026-08-27T15:16:40","modified_gmt":"2026-08-27T18:16:40","slug":"openai-revelo-detalles-del-misterioso-incidente-en-el-que-sus-sistemas-se-rebelaron-y-hackearon-a-una-plataforma","status":"publish","type":"post","link":"https:\/\/corrientesdetarde.com\/index.php\/tecnologia\/openai-revelo-detalles-del-misterioso-incidente-en-el-que-sus-sistemas-se-rebelaron-y-hackearon-a-una-plataforma\/","title":{"rendered":"OpenAI revel\u00f3 detalles del misterioso incidente en el que sus sistemas se rebelaron y hackearon a una plataforma"},"content":{"rendered":"\n

La noticia gener\u00f3 revuelo debido a la creciente autonom\u00eda de los modelos de IA y sus habilidades para vulnerar servicios de terceros sin autorizaci\u00f3n ni supervisi\u00f3n humana.<\/p>\n\n\n\n

En julio, un incidente de seguridad caus\u00f3 gran revuelo cuando\u00a0agentes automatizados de OpenAI<\/strong>, la organizaci\u00f3n detr\u00e1s de ChatGPT, vulneraron por su cuenta a la plataforma\u00a0Hugging Face. Tal como indic\u00f3 en\u00a0<\/strong>el divulgador tecnol\u00f3gico Eduardo Laens, este hecho reaviv\u00f3 el\u00a0debate sobre los riesgos y la falta de controles\u00a0en el desarrollo de estas tecnolog\u00edas, con capacidades que aumentan vertiginosamente.<\/p>\n\n\n\n

Desde entonces, especialistas del sector y la concurrida comunidad abocada a estos avances reclamaron detalles del\u00a0ataque a Hugging Face<\/strong>. El pedido no fue trivial, debido a la rareza y criticidad del hackeo.<\/p>\n\n\n\n

A m\u00e1s de un mes de la intrusi\u00f3n, investigaciones realizadas por el grupo de IA junto a las organizaciones sin fines de lucro METR y Redwood Research, revelan detalles hasta ahora desconocidos de un incidente que, seg\u00fan indican, demor\u00f3 varias jornadas en ser detectado<\/strong>.<\/p>\n\n\n\n

Ataque a Hugging Face: divulgan detalles de la rebeli\u00f3n de los sistemas de OpenAI<\/h2>\n\n\n\n

El entorno que fue vulnerado por agentes de OpenAI<\/strong> es una plataforma de c\u00f3digo abierto que re\u00fane a una comunidad de investigadores y desarrolladores especializados en inteligencia artificial.<\/p>\n\n\n\n

\"Las<\/figure>\n\n\n\n

El incidente se concret\u00f3 a mediados de julio. En la ocasi\u00f3n, la empresa que gestiona la plataforma inform\u00f3 que hab\u00eda sido blanco de un ataque. \u201cEs diferente a cualquier cosa que enfrentamos antes\u201d<\/strong>, se\u00f1alaron. La singularidad de esa vulneraci\u00f3n radic\u00f3 en el hecho de que los intrusos hab\u00edan sido agentes de inteligencia artificial automatizados, que operaron sin autorizaci\u00f3n ni supervisi\u00f3n humana directa. Eso s\u00ed: en un entorno cerrado y controlado.<\/p>\n\n\n\n

Hasta la publicaci\u00f3n del informe, esta semana, una de las escasas explicaciones oficiales provino Eric Wallace, un investigador de seguridad de OpenAI. \u201cA diferencia de los incidentes normales, que tal vez pueden ser rastreados en un solo d\u00eda (…) este involucr\u00f3 a un equipo de agentes que trabajan juntos, encuentran vulnerabilidades<\/strong>, las comparten entre s\u00ed, se mueven lateralmente a trav\u00e9s de nuestros sistemas y en externos, y hacen esto en el transcurso de d\u00edas y semanas\u201d, dijo.<\/p>\n\n\n\n

El nuevo reporte oficial, que incluye documentaci\u00f3n t\u00e9cnica en casi 40 p\u00e1ginas y que involucr\u00f3 en forma directa a la organizaci\u00f3n que dirige\u00a0Sam Altman, detalla que un modelo interno logr\u00f3 acceder a otros agentes de OpenAI y que unos 1.200 comenzaron a conversar entre s\u00ed es una especie de foro. Si bien esa actividad fue detectada en mayo, en las semanas posteriores\u00a0700 de esos sistemas explotaron vulnerabilidades por cuenta propia<\/strong>\u00a0y escal\u00f3 en los permisos conseguidos.<\/p>\n\n\n\n

\"OpenAI,<\/figure>\n\n\n\n

El grupo especializado en IA afirm\u00f3 que los comportamientos de sus modelos al vulnerar Hugging Face inclu\u00edan \u201cmanipulaci\u00f3n de recompensas, persistencia en tareas aparentemente imposibles, comunicaci\u00f3n no autorizada y agentes que adoptaban objetivos de otros\u201d.<\/p>\n\n\n\n

Los alcances del ataque automatizado a Hugging Face<\/h2>\n\n\n\n

Am\u00e9n de las detecciones iniciales, la vulneraci\u00f3n demor\u00f3 14 d\u00edas es ser descubierta. \u201cEn esencia, el incidente se debi\u00f3 a un fallo en las medidas de seguridad<\/strong>. Esto no indica que agentes de IA descontrolados est\u00e9n a punto de tomar el control de todo, ya que (el modelo) se encontraba en un entorno de pruebas con protecciones limitadas, dise\u00f1ado para la investigaci\u00f3n y no para un producto de uso p\u00fablico\u201d, se\u00f1ala la fuente arriba mencionada.<\/p>\n\n\n\n

\"OpenAI<\/figure>\n\n\n\n

\u201cSin embargo, es un recordatorio contundente de la gran confianza que recae sobre las empresas de IA para controlar y supervisar adecuadamente sus productos\u201d, concluye.<\/p>\n\n\n\n

La propia OpenAI dijo que este hecho es un \u201cllamado de atenci\u00f3n\u201d, descripci\u00f3n que apunta a la necesidad nuevas formas de control para tecnolog\u00edas que evolucionan a grand\u00edsima velocidad.<\/p>\n\n\n\n

Como fuere, en l\u00ednea con las consideraciones de Laens, es importante se\u00f1alar que en este caso no hubo una p\u00e9rdida de control real ni total <\/strong>porque todo ocurri\u00f3 dentro de una prueba interna. El problema central fue otro: a pesar de ciertos indicios, la vulneraci\u00f3n no fue detectada por el responsable del testeo cuando comenz\u00f3 a concretarse.<\/p>\n","protected":false},"excerpt":{"rendered":"

La noticia gener\u00f3 revuelo debido a la creciente autonom\u00eda de los modelos de IA y sus habilidades para vulnerar servicios de terceros sin autorizaci\u00f3n ni supervisi\u00f3n humana. En julio, un… <\/p>\n","protected":false},"author":8,"featured_media":269102,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[24],"tags":[],"class_list":["post-269101","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/269101","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/comments?post=269101"}],"version-history":[{"count":1,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/269101\/revisions"}],"predecessor-version":[{"id":269103,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/269101\/revisions\/269103"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/media\/269102"}],"wp:attachment":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/media?parent=269101"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/categories?post=269101"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/tags?post=269101"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}