En el documento, los l\u00edderes tecno advirtieron sobre los\u00a0peligros potenciales de estos avances<\/strong>\u00a0y afirmaron que la carrera por los desarrollos con esta tecnolog\u00eda est\u00e1n \u201cfuera de control\u201d.<\/p>\n\n\n\n \u201cLos sistemas de inteligencia artificial\u00a0pueden plantear profundos\u00a0riesgos para la sociedad y la humanidad<\/strong>\u201d, aseguraron en su conjunto los especialistas que firmaron la carta.<\/p>\n\n\n\n \u201c\u00bfDeber\u00edamos desarrollar mentes no humanas que con el tiempo podr\u00edan superarnos en n\u00famero e inteligencia, y reemplazarnos?\u201d se preguntaron Musk, Wozniak, Evan Sharp, fundador de Pinterest, Chris Larsen, cofundador de Ripple, Craig Peters, CEO de Getty Images, y un grupo de expertos, analistas, profesores e investigadores de diferentes empresas y universidades.<\/strong><\/p>\n\n\n\n Stuart Russell, firmante de la carta y profesor de inform\u00e1tica de la Universidad de California en Berkeley, declar\u00f3 ayer a la BBC: \u201cLos sistemas de inteligencia artificial plantean\u00a0riesgos significativos para la democracia a trav\u00e9s de la desinformaci\u00f3n\u00a0<\/strong>como arma, para el empleo a trav\u00e9s del desplazamiento de las habilidades humanas y para la educaci\u00f3n a trav\u00e9s del plagio y la desmotivaci\u00f3n\u201d.<\/p>\n\n\n\n Seg\u00fan proyect\u00f3 Russell, en el futuro los sistemas de inteligencia artificial podr\u00e1n suponer una\u00a0amenaza para el control humano sobre nuestra civilizaci\u00f3n<\/strong>: \u201cTomar precauciones sensatas es un peque\u00f1o precio a pagar para mitigar estos riesgos\u201d, agreg\u00f3 el investigador.<\/p>\n\n\n\n En concreto, el pedido de los l\u00edderes tecno urge a los laboratorios de IA que suspendan inmediatamente<\/strong>, durante al menos seis meses, el entrenamiento de sistemas de m\u00e1s potentes que GPT-4<\/strong>. En caso de que no sea posible hacerlo con rapidez, los gobiernos deber\u00edan intervenir e instituir una moratoria, aseguran: \u201cTambi\u00e9n ser\u00edan necesarias autoridades reguladoras nuevas y capaces dedicadas a la IA\u201d.<\/p>\n\n\n\n La carta, que ya firmaron casi 1400 personas, fue redactada por Future of Life Institute<\/em>, una organizaci\u00f3n sin fines de lucro que, seg\u00fan su propia definici\u00f3n, busca \u201calejar las tecnolog\u00edas transformadoras de los riesgos extremos a gran escala y dirigirlas hacia el beneficio de la vida\u201d.<\/p>\n\n\n\n La ONG se\u00f1ala el r\u00e1pido desarrollo de las capacidades de la tecnolog\u00eda de IA y c\u00f3mo ha superado el rendimiento humano en muchas \u00e1reas. En el documento, se pone el ejemplo de c\u00f3mo la IA utilizada para crear nuevos tratamientos farmacol\u00f3gicos podr\u00eda utilizarse f\u00e1cilmente para crear pat\u00f3genos mortales<\/strong>.<\/p>\n\n\n\n Por otra parte, los expertos sostienen que los sistemas de IA tan potentes deben desarrollarse solamente cuando se est\u00e9 seguro de que sus efectos ser\u00e1n positivos y sus riesgos controlables.<\/p>\n\n\n\n Por estas razones, el documento afirm\u00f3 que los laboratorios de IA y los expertos independientes deben aprovechar la pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad <\/strong>compartidos para el dise\u00f1o y desarrollo de IA avanzadas que garanticen que son seguras m\u00e1s all\u00e1 de toda duda razonable.<\/p>\n\n\n\n Tal vez lo m\u00e1s significativo sea que la carta se\u00f1ala como motivo de preocupaci\u00f3n la reciente introducci\u00f3n de GPT-4, el\u00a0chatbot\u00a0<\/em>de inteligencia artificial desarrollado por la empresa OpenAI, con sede en San Francisco.<\/p>\n\n\n\n Se\u00f1alando el potencial que un programa como GPT-4 podr\u00eda tener para crear desinformaci\u00f3n y propaganda, los l\u00edderes tecno pidieron a todos los laboratorios de IA que pongan inmediatamente en pausa durante al menos 6 meses<\/strong> el entrenamiento de sistemas de inteligencia artificial.<\/p>\n\n\n\n Mientras tanto, otro grupo ha llevado sus preocupaciones sobre el potencial negativo de esta tecnolog\u00eda. <\/strong>La ONG Center for AI and Digital Policy<\/em> present\u00f3 el hoy una queja ante la Comisi\u00f3n Federal de Comercio de EE. UU. en la que pide a la agencia que suspenda el despliegue del sistema y abra una investigaci\u00f3n.<\/p>\n\n\n\n En su denuncia, el grupo afirma que la descripci\u00f3n t\u00e9cnica del sistema\u00a0GPT-4\u00a0facilitada por sus propios fabricantes describe casi una\u00a0docena de riesgos importantes que plantea su uso<\/strong>, entre ellos operaciones de desinformaci\u00f3n e influencia, proliferaci\u00f3n de armas convencionales y no convencionales y ciberseguridad.<\/p>\n\n\n\n Por su parte, un profesor de inform\u00e1tica de Princeton llamado Arvind Narayanan acus\u00f3 a los l\u00edderes tecno que firmaron la carta de centrarse en\u00a0riesgos especulativos y futuristas<\/strong>.<\/p>\n\n\n\n OpenAI<\/strong>, la empresa creadora de ChatGPT, el popular chatbot que revolucion\u00f3 el ecosistema tecno, ya hab\u00eda advertido acerca de los riesgos de desarrollar imprudentemente una inteligencia general artificial (AGI): \u201cUna AGI superinteligente mal alineada podr\u00eda causar graves da\u00f1os al mundo; un r\u00e9gimen autocr\u00e1tico con una superinteligencia decisiva a la cabeza tambi\u00e9n podr\u00eda hacerlo\u201d.<\/p>\n\n\n\n Sin embargo, luego de la carta, la firma con sede en San Francisco no ha hecho comentarios p\u00fablicos al respecto.<\/strong><\/p>\n\n\n\n GPT significa Generative Pre-trained Transformer<\/em>, o Transformador generativo preentrenado en espa\u00f1ol. Se trata de un tipo de modelo de lenguaje que utiliza el aprendizaje profundo para generar texto conversacional similar al humano.<\/p>\n\n\n\n OpenAi asegur\u00f3 que GPT-4, su \u00faltima versi\u00f3n, es m\u00e1s preciso e imita mucho mejor la manera en que hablan los humanos. Adem\u00e1s, tiene la capacidad de analizar y responder a imagenes. Como dato, la firma asegura que el bot ha superado un examen de abogac\u00eda simulado, la instancia final que permite a las personas colegiarse en la materia.<\/p>\n","protected":false},"excerpt":{"rendered":" A trav\u00e9s de una carta abierta, empresarios y expertos aseguraron que las IA suponen una amenaza para el control humano sobre nuestra civilizaci\u00f3n: \u201clos desarrollos con esta tecnolog\u00eda est\u00e1n fuera… <\/p>\n","protected":false},"author":8,"featured_media":50794,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[24],"tags":[],"class_list":["post-50793","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/50793","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/comments?post=50793"}],"version-history":[{"count":1,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/50793\/revisions"}],"predecessor-version":[{"id":50797,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/50793\/revisions\/50797"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/media\/50794"}],"wp:attachment":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/media?parent=50793"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/categories?post=50793"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/tags?post=50793"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}![\"\"](\"https:\/\/corrientesdetarde.com\/wp-content\/uploads\/2023\/03\/image-999-1024x573.png\")
<\/figure>\n\n\n\nLas razones por las que los lideres tecno pidieron que se detenga el desarrollo de aplicaciones con inteligencia artificial<\/h2>\n\n\n\n
La carta abierta en la que Elon Musk y otros l\u00edderes piden que se suspendan los avances con IA<\/h2>\n\n\n\n
![\"\"](\"https:\/\/corrientesdetarde.com\/wp-content\/uploads\/2023\/03\/image-1000-1024x573.png\")
<\/figure>\n\n\n\nM\u00e1s pedidos para pausar los desarrollos de inteligencia artificial<\/h2>\n\n\n\n
Reacciones a la carta de Elon Musk y los otros l\u00edderes tecno<\/h2>\n\n\n\n
Qu\u00e9 significa GPT y c\u00f3mo funciona<\/h2>\n\n\n\n