\u201cEs lo que\u00a0todos hemos estado diciendo<\/strong>\u201d, escribi\u00f3 un empleado de\u00a0Anthropic\u00a0<\/em>sobre los comentarios de Coxon en un chat grupal entre trabajadores que fue visto por\u00a0The New York Times<\/em>. \u201cSolo que ahora es de cara al p\u00fablico\u201d.<\/p>\n\n\n\n \u201cJacob hizo p\u00fablico el chat grupal\u201d, escribi\u00f3 otro empleado. \u201cEso es algo bueno\u201d.<\/p>\n\n\n\n Las reacciones al interior de\u00a0Anthropic<\/em>\u00a0encontraron eco entre los investigadores de inteligencia artificial de\u00a0OpenAI,\u00a0Meta\u00a0y\u00a0Google<\/em>, quienes analizaron las publicaciones en redes sociales de Coxon,que describ\u00edan c\u00f3mo\u00a0OpenAI y Anthropic\u00a0<\/em>estaban \u201cjugando con nuestras vidas<\/strong>\u201d mediante la tecnolog\u00eda.<\/p>\n\n\n\n Muchos se reunieron en canales de mensajer\u00eda de la oficina, chats encriptados y cenas privadas, con el objetivo de organizarse para generar conciencia sobre los riesgos de la inteligencia artificial, <\/strong>seg\u00fan una decena de empleados de todas las empresas.<\/p>\n\n\n\n Para aquellos que han hecho de la inteligencia artificial el trabajo de su vida, el mensaje de Coxon no era nuevo. Pero sus comentarios crecieron como una bola de nieve hasta convertirse en una conversaci\u00f3n global tal, que muchos lo vieron como el momento para pedir una mayor precauci\u00f3n.<\/strong> Algunos trabajadores de la inteligencia artificial ahora est\u00e1n alzando la voz ante los altos ejecutivos para instar a una pausa en el desarrollo de la tecnolog\u00eda de r\u00e1pida evoluci\u00f3n hasta que cuente con las salvaguardas<\/strong> adecuadas, dijeron seis de esas personas.<\/p>\n\n\n\n Las conversaciones subrayan las tensiones<\/strong> dentro de los principales laboratorios de inteligencia artificial sobre las formas m\u00e1s seguras de desarrollar la tecnolog\u00eda<\/strong>. Aun cuando los empleados han tomado valor para pedir una desaceleraci\u00f3n<\/strong> en el desarrollo de la inteligencia artificial, empresas como Anthropic y OpenAI <\/em>est\u00e1n compaginando las prioridades.<\/p>\n\n\n\n Ambas planean lanzar ofertas p\u00fablicas iniciales de gran \u00e9xito el pr\u00f3ximo a\u00f1o. Las empresas tambi\u00e9n temen que podr\u00edan enfrentar problemas antimonopolio<\/strong> si acordaran entre ellas tomarse un respiro en el desarrollo de la inteligencia artificial, dijeron dos personas con conocimiento del tema. Y las empresas emergentes chinas han producido modelos competitivos de inteligencia artificial, lo que plantea la posibilidad de que las empresas estadounidenses se queden atr\u00e1s si reducen la velocidad.<\/p>\n\n\n\n Eso ha creado una situaci\u00f3n delicada para los principales ejecutivos de inteligencia artificial, muchos de los cuales coinciden en que la tecnolog\u00eda plantea riesgos.\u00a0Sam Altman<\/strong>, el director ejecutivo de\u00a0OpenAI<\/em>, escribi\u00f3 en una publicaci\u00f3n de blog de 2023 que\u00a0la inteligencia artificial podr\u00eda \u201ccausar da\u00f1os graves al mundo\u201d.\u00a0Dario Amodei<\/strong>, el director ejecutivo de\u00a0Anthropic<\/em>, escribi\u00f3 en una columna de opini\u00f3n en 2025 que la inteligencia artificial deber\u00eda ser regulada para controlar los riesgos.<\/p>\n\n\n\n En una reuni\u00f3n de empleados esta semana, Altman<\/strong> dijo que OpenAI<\/em> estaba dispuesta a desacelerar<\/strong> el desarrollo junto con los laboratorios rivales, seg\u00fan dos personas que asistieron. Agreg\u00f3 que esperaba que las desaceleraciones voluntaria<\/strong>s se volvieran normales hasta que hubiera est\u00e1ndares de seguridad<\/strong> ampliamente reconocidos. La reuni\u00f3n fue reportada antes por la agencia Bloomberg<\/em>.<\/p>\n\n\n\n Y el s\u00e1bado, Amodei<\/strong> public\u00f3 un ensayo de 3800 palabras en el que ped\u00eda prudencia en el desarrollo<\/strong> de la inteligencia artificial. \u201cDebemos reducir el ritmo al que mejoramos las capacidades de los modelos de inteligencia artificial\u201d, escribi\u00f3. Altman y Elon Musk<\/strong>, cuya empresa de cohetes SpaceX<\/em> ha estado aumentando el gasto en inteligencia artificial, estuvieron de acuerdo<\/strong><\/em> r\u00e1pidamente<\/strong>.<\/p>\n\n\n\n (The New York Times ha demandado a OpenAI y Microsoft, con el alegato de infracci\u00f3n de derechos de autor de contenido de noticias relacionada con sistemas de inteligencia artificial. Ambas empresas han negado esas afirmaciones).<\/em><\/p>\n\n\n\n Las discusiones sobre la seguridad de la inteligencia artificial han existido casi tanto tiempo como la propia tecnolog\u00eda. Pero su urgencia aument\u00f3 en los \u00faltimos a\u00f1os a medida que los investigadores lograban avances.<\/p>\n\n\n\n Las preocupaciones aumentaron en julio despu\u00e9s de que OpenAI <\/em>revel\u00f3 que algunos de sus modelos de inteligencia artificial hab\u00edan escapado de la contenci\u00f3n y hackeado a Hugging Face<\/em>, una empresa de inteligencia artificial. Los investigadores de inteligencia artificial se cuestionaron si pod\u00edan controlar los sistemas que estaban construyendo, y empleados de OpenAI, Anthropic y DeepMind<\/em> de Google <\/em>se reunieron para discutir qu\u00e9 hacer, dijeron nueve de las personas. Muchos estuvieron de acuerdo en que la inteligencia artificial se estaba construyendo demasiado r\u00e1pido.<\/strong><\/p>\n\n\n\n \u201cLos investigadores m\u00e1s mesurados al interior de los laboratorios que se han enorgullecido de ser imparciales ahora suenan aterrorizados\u201d, dijo en una entrevista Roy Bahat, director de la firma de inversiones Bloomberg Beta.<\/em><\/p>\n\n\n\n Algunos investigadores de inteligencia artificial crearon grupos con el objetivo de establecer salvaguardas<\/strong> duraderas. Un esfuerzo, la Coalition of Concerned AI Staff,<\/em> comenz\u00f3 como un proyecto secreto para crear \u201csalvaguardas m\u00e1s s\u00f3lidas\u201d y ayudar a los trabajadores de manera colectiva a \u201cexigirle a una empresa que cumpla con sus compromisos de seguridad\u201d.<\/p>\n\n\n\n \u201cSi trabajas en una empresa de inteligencia artificial, puede que te est\u00e9s preguntando si t\u00fa tambi\u00e9n deber\u00edas irte\u201d, dijo el jueves<\/em> en redes sociales Pamela Mishkin<\/strong>, exempleada de OpenAI<\/em>, al anunciar el esfuerzo. Tambi\u00e9n alent\u00f3 a quienes permanecieron en sus puestos a preguntar: \u201c\u00bfc\u00f3mo usar tu influencia al quedarte?\u201d.<\/p>\n\n\n\n Despu\u00e9s de que Coxon publicara su renuncia a Anthropic <\/em>el martes, los trabajadores <\/strong>de la inteligencia artificial instaron <\/strong>a los altos ejecutivos de sus empresas a pausar el desarrollo de la tecnolog\u00eda<\/strong> para que tuvieran m\u00e1s tiempo de trabajar en ella de manera segura. Algunos bromearon diciendo que hab\u00edan perdido la cuenta de las cartas abiertas que hab\u00edan firmado y de la cantidad de chats grupales privados a los que pertenec\u00edan en los que hablaban sobre la seguridad<\/strong> de la inteligencia artificial, dijeron dos de las personas.<\/p>\n\n\n\n En una entrevista el mi\u00e9rcoles, Coxon dijo que incidentes como el hackeo de Hugging Face<\/em> hab\u00edan aumentado sus preocupaciones de que los modelos de inteligencia artificial<\/strong> se estuvieran desarrollando mucho m\u00e1s r\u00e1pido <\/strong>de lo que las empresas pod\u00edan controlarlos. \u201cFue sobre todo un proceso emocional gradual y, al final, algo se rompi\u00f3, y entonces decid\u00ed irme\u201d, dijo.<\/p>\n\n\n\n Otros trabajadores de la inteligencia artificial siguieron el ejemplo de Coxon y hablaron p\u00fablicamente. Evan Hubinger,<\/strong> un investigador de seguridad en Anthropic<\/em>, dijo en una publicaci\u00f3n en redes sociales el martes que cre\u00eda que hab\u00eda m\u00e1s de un 10 por ciento de probabilidades de que la IA pudiera \u201cmatar a todos los humanos\u201d<\/strong> en la pr\u00f3xima d\u00e9cada.<\/p>\n\n\n\n Julie Steele<\/strong>, una investigadora de seguridad en OpenAI, <\/em>dijo esta semana que cre\u00eda que las empresas de inteligencia artificial necesitaban \u201cdesacelerar<\/strong>\u201d. El viernes, Andreas Kirsch<\/strong>, un empleado de DeepMind de Google,<\/em> escribi\u00f3 que estaba \u201cpreocupado de que la inteligencia artificial nos mate a todos, ya sea a trav\u00e9s de riesgos a corto plazo o largo plazo, o ambos\u201d.<\/p>\n\n\n\n \u201cDurante mucho tiempo ha existido este velo de no hablar demasiado p\u00fablicamente de ello porque a la gente le daba mucho miedo ser percibida como demasiado alarmista, demasiado extrema\u201d, dijo Connor Leahy, director en Estados Unidos de ControlAI,<\/em> una organizaci\u00f3n sin fines de lucro que cabildea a favor de la regulaci\u00f3n de la inteligencia artificial.<\/strong> \u201cAhora la represa se ha roto un poco\u201d.<\/p>\n\n\n\n La avalancha de comentarios ha llamado la atenci\u00f3n de Washington. Miembros del Congreso de ambos partidos -incluidos los senadores Bernie Sanders, independiente por Vermont, y Josh Hawley, republicano por Misuri- han pedido investigaciones sobre la tecnolog\u00eda y han instado a una intervenci\u00f3n regulatoria.<\/p>\n\n\n\n \u201cEs un llamado de atenci\u00f3n para el Congreso y nuestro gobierno\u201d, dijo en una entrevista el viernes el representante Ro Khanna,<\/strong> dem\u00f3crata por California. El Congreso deber\u00eda pedir la creaci\u00f3n de una agencia reguladora <\/strong>de la inteligencia artificial, agreg\u00f3, y \u201cnecesitamos dar un paso al frente y regular\u201d.<\/p>\n\n\n\n Las empresas de inteligencia artificial han respondido exponiendo lo que hacen en materia de seguridad y qu\u00e9 otras medidas pueden tomarse.<\/p>\n\n\n\n El jueves, Anthropic<\/em> dijo en un comunicado que probaba regularmente sus modelos de inteligencia artificial \u201cen busca de capacidades peligrosas en \u00e1reas como la ciberseguridad y la biolog\u00eda\u201d y que compart\u00eda p\u00fablicamente su investigaci\u00f3n. \u201cCreemos que el mundo se beneficiar\u00eda si la industria adoptara una forma legal y verificable de trabajar en conjunto para controlar el ritmo con el que lanzamos modelos potentes\u201d, dijo la empresa.<\/p>\n\n\n\n Google DeepMind declin\u00f3 hacer comentarios.<\/p>\n\n\n\n Chris Lehane,<\/strong> el principal ejecutivo de pol\u00edticas de OpenAI,<\/em> dijo en una publicaci\u00f3n de blog el mi\u00e9rcoles que la empresa \u201cdesacelerar\u00eda o detendr\u00eda el desarrollo o despliegue de sistemas\u201d que no pudiera salvaguardar adecuadamente. Jakub Pachocki,<\/strong> el cient\u00edfico jefe de la empresa, pidi\u00f3 reglas de seguridad<\/strong> \u201caplicadas por una red de auditores externos, por agencias gubernamentales o por organismos internacionales\u201d.<\/p>\n\n\n\n \u201cMe preocupa que nadie est\u00e9 preparado para las consecuencias de un aumento r\u00e1pido y continuo en la inteligencia de las m\u00e1quinas\u201d, dijo Pachocki en una publicaci\u00f3n de blog, y agreg\u00f3: \u201cCreo que se requieren intervenciones m\u00e1s amplias\u201d.<\/p>\n","protected":false},"excerpt":{"rendered":" Los investigadores de Anthropic, OpenAI, Meta y Google intentan cada vez m\u00e1s generar conciencia sobre los riesgos de la inteligencia artificial. Cuando\u00a0Jacob Coxon, un investigador de\u00a0Anthropic, renunci\u00f3 p\u00fablicamente a la… <\/p>\n","protected":false},"author":8,"featured_media":271029,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[24],"tags":[],"class_list":["post-271028","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/271028","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/comments?post=271028"}],"version-history":[{"count":1,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/271028\/revisions"}],"predecessor-version":[{"id":271030,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/271028\/revisions\/271030"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/media\/271029"}],"wp:attachment":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/media?parent=271028"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/categories?post=271028"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/tags?post=271028"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}![\"Coxon,](\"https:\/\/tn.com.ar\/resizer\/v2\/coxon-de-27-anos-trabajo-en-las-organizaciones-que-desarrollan-los-populares-sistemas-chatgpt-y-claude-foto-creada-con-google-gemini-GI7QUOYOXNEBVFALGNPXSSD2AU.jpeg?auth=b1d3301029f508cec5b635d1b87bfb4960c6439ba0fae1c7836de5b11695a457&width=767\")
<\/figure>\n\n\n\n![\"OpenAI](\"https:\/\/tn.com.ar\/resizer\/v2\/openai-chief-executive-officer-sam-altman-speaks-at-the-g20-innovation-ministerial-summit-in-chapel-hill-north-carolina-us-september-2-2026-reutersjonathan-drake-ZAAVV54XTSGOX3W7CYFD2A3Z2Y.jpg?auth=9cf9da6b5f2677340244c8b83e5aef3fb0bf15ec6c6c2f84e4136eeaf5439329&width=767\")
<\/figure>\n\n\n\n![\"La](\"https:\/\/tn.com.ar\/resizer\/v2\/la-rivalidad-entre-anthropic-y-openai-se-ve-tambien-en-los-numeros-foto-reutersdado-ruvic-P6PK3Q623ZAKXLUXVLRCAJ3WGE.jpeg?auth=32842f60556bfba83049e633ce397d19a3146fab6384da986db3c6c561516b93&width=767\")
<\/figure>\n\n\n\n