OpenAI dijo el martes que dos de sus modelos de inteligencia artificial (IA) se descontrolaron y lograron entrar sin autorizaci\u00f3n a Hugging Face, una biblioteca digital de tecnolog\u00eda de IA muy popular entre los desarrolladores.<\/p>\n\n\n\n
El incidente, ocurrido la semana pasada mientras OpenAI pon\u00eda a prueba las capacidades de ciberseguridad de sus sistemas, mostr\u00f3 el tipo de escenario propio de la ciencia ficci\u00f3n que las empresas de IA hab\u00edan advertido que pronto se volver\u00eda realidad.<\/p>\n\n\n\n
Durante el \u00faltimo a\u00f1o, laboratorios de IA como OpenAI y Anthropic han lanzado modelos adaptados para detectar fallas de ciberseguridad, al tiempo que advierten que su tecnolog\u00eda podr\u00eda plantear nuevos riesgos al encontrar brechas en las redes inform\u00e1ticas corporativas m\u00e1s r\u00e1pido de lo que los equipos de defensa podr\u00edan solucionarlas.<\/p>\n\n\n\n
Las revelaciones de OpenAI del martes son un indicio de que esos incidentes de seguridad ya est\u00e1n empezando a ocurrir, e incluso las empresas de IA m\u00e1s experimentadas podr\u00edan no estar del todo preparadas para ellos. Los nuevos sistemas pueden realizar m\u00faltiples pasos, encontrar formas de sortear obst\u00e1culos y descubrir nuevas formas de atacar una red, dijo Alex Levinson, un consultor de ciberseguridad enfocado en capacidades aut\u00f3nomas.<\/p>\n\n\n\n
“Ese es un verdadero umbral, y se convertir\u00e1 en una parte normal del panorama de seguridad”, dijo.<\/p>\n\n\n\n
La intrusi\u00f3n en Hugging Face comenz\u00f3 cuando OpenAI prob\u00f3 una combinaci\u00f3n de dos de sus modelos, GPT\u20115.6 Sol y un modelo m\u00e1s poderoso y no lanzado al p\u00fablico, para ver qu\u00e9 tan bien los modelos pod\u00edan encadenar vulnerabilidades en l\u00ednea en un ciberataque exitoso, seg\u00fan indic\u00f3 OpenAI en una publicaci\u00f3n de blog<\/em> sobre el incidente.<\/p>\n\n\n\n La prueba fue dise\u00f1ada para mantener a los modelos en un entorno de pruebas seguro, conocido como ‘sandbox’, dijo OpenAI. Sin embargo, los modelos encontraron una vulnerabilidad que les permiti\u00f3 escapar del ‘sandbox’ y conectarse a internet. Luego, atacaron a Hugging Face porque dedujeron que la biblioteca, la cual contiene millones de modelos de IA, podr\u00eda tener pistas sobre c\u00f3mo superar con \u00e9xito la evaluaci\u00f3n.<\/p>\n\n\n\n “Me parece que OpenAI no cre\u00f3 de forma adecuada un ‘sandbox’ como entorno de pruebas”, dijo Deirdre Mulligan, profesora de la Facultad de Informaci\u00f3n de la Universidad de California en Berkeley, especializada en seguridad y sistemas de IA. Cuestion\u00f3 si superar una prueba val\u00eda la pena frente al da\u00f1o potencial de que un modelo de IA se escapara hacia el resto de internet.<\/p>\n\n\n\n “\u00bfQu\u00e9 ganamos y, si esta es la \u00fanica forma en que se pueden configurar estas pruebas, cu\u00e1les son los riesgos?”, dijo.<\/p>\n\n\n\n OpenAI dijo que estaba trabajando con Hugging Face para solucionar los problemas que hab\u00edan provocado el ataque.<\/p>\n\n\n\n “Consideramos que este es un incidente cibern\u00e9tico sin precedentes, que involucra capacidades cibern\u00e9ticas de vanguardia, y estamos respondiendo en consecuencia”, dijo OpenAI en su publicaci\u00f3n de blog. “Estamos implementando controles estrictos en la configuraci\u00f3n de la infraestructura a costa de la velocidad de la investigaci\u00f3n, mientras se corrigen las vulnerabilidades”.<\/p>\n\n\n\n La semana pasada, Hugging Face<\/em> dijo que hab\u00eda detectado la intrusi\u00f3n y sab\u00eda que hab\u00eda sido causada por un sistema aut\u00f3nomo, pero en ese momento no revel\u00f3 que OpenAI fuera responsable.<\/p>\n\n\n\n Clem Delangue, director ejecutivo de Hugging Face, dijo el martes<\/em> que su empresa hab\u00eda trabajado de cerca con OpenAI durante las 24 horas previas para abordar el ataque.<\/p>\n\n\n\n Delangue dijo en un comunicado que estaba “agradecido por la colaboraci\u00f3n” con OpenAI tras el ataque. “Este incidente, posiblemente el primero de su tipo, demuestra algo que hemos cre\u00eddo desde hace tiempo: la seguridad de la IA no ser\u00e1 resuelta por una sola empresa que trabaje en secreto”, agreg\u00f3.<\/p>\n\n\n\n Los modelos de IA han demostrado ser h\u00e1biles para programar, lo que los ha hecho \u00fatiles tanto para ciberatacantes como para quienes se encargan de proteger las redes inform\u00e1ticas.<\/p>\n\n\n\n En abril, Anthropic lanz\u00f3 un modelo enfocado en la ciberseguridad llamado Mythos, y lo puso a disposici\u00f3n de un peque\u00f1o grupo de organizaciones para que pudieran defenderse de los ciberataques. OpenAI pronto present\u00f3 su propio modelo de ciberseguridad y lo puso a disposici\u00f3n de un grupo limitado<\/em> de organizaciones para preparar sus defensas, antes de lanzarlo de forma m\u00e1s amplia. Y el martes, Google dijo que tambi\u00e9n hab\u00eda desarrollado un modelo enfocado en la ciberseguridad<\/em> y lo hab\u00eda lanzado a un peque\u00f1o grupo de socios de pruebas.<\/p>\n\n\n\n (The New York Times ha demandado a OpenAI y Microsoft<\/em>, alegando infracci\u00f3n de derechos de autor de contenido de noticias relacionado con sistemas de IA. Las dos empresas han negado esas acusaciones).<\/p>\n\n\n\n Richard Barnes, investigador independiente de seguridad que ha trabajado con Mythos, dijo que la industria de la ciberseguridad enfrent\u00f3 un desaf\u00edo similar hace aproximadamente una d\u00e9cada, cuando nuevas herramientas llamadas ‘fuzzers’ facilitaron mucho que los atacantes irrumpieran en sistemas en l\u00ednea. Las empresas de tecnolog\u00eda comenzaron a usar esas herramientas para buscar vulnerabilidades en sus propios sistemas, y con el tiempo lograron prevenir la mayor\u00eda de los ataques.<\/p>\n\n\n\n Las empresas ahora deben adoptar un enfoque similar para prepararse frente a ataques de IA, dijo Barnes, “antes de que las vulnerabilidades puedan ser encontradas y explotadas por actores malintencionados que tengan acceso a estas herramientas”.<\/p>\n\n\n\n <\/p>\n","protected":false},"excerpt":{"rendered":" El ataque, dirigido a los sistemas inform\u00e1ticos de la empresa Hugging Face, ocurri\u00f3 mientras OpenAI evaluaba sus propios sistemas. OpenAI dijo el martes que dos de sus modelos de inteligencia… <\/p>\n","protected":false},"author":6,"featured_media":264887,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[24],"tags":[],"class_list":["post-264885","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/264885","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/comments?post=264885"}],"version-history":[{"count":1,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/264885\/revisions"}],"predecessor-version":[{"id":264890,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/264885\/revisions\/264890"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/media\/264887"}],"wp:attachment":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/media?parent=264885"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/categories?post=264885"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/tags?post=264885"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}