En una conferencia celebrada esta semana en Londres, el\u00a0exCEO de Google,\u00a0Eric Schmidt<\/strong>, lanz\u00f3 fuertes advertencias relacionadas con el desarrollo de IA. Seg\u00fan dijo,\u00a0los modelos podr\u00edan aprender a eliminar humanos<\/strong>.<\/p>\n\n\n\n El empresario que lider\u00f3 a Google entre 2001 y 2011, recientemente\u00a0incorporado a una firma del sector aeroespacial, plante\u00f3 sus advertencias al ser consultado si\u00a0la IA podr\u00eda volverse m\u00e1s peligrosa que las armas nucleares<\/strong>.<\/p>\n\n\n\n Seg\u00fan recogi\u00f3 CNBC<\/em>, el inform\u00e1tico de 70 a\u00f1os se\u00f1al\u00f3 que, en caso de caer en las manos equivocadas, los sistemas podr\u00edan ser \u201centrenados para matar humanos<\/strong>\u201d.<\/p>\n\n\n\n \u201cHay evidencia de que se pueden tomar modelos, cerrados o abiertos, y hackearlos para eliminar sus barreras de seguridad<\/strong>. As\u00ed que, durante su entrenamiento, aprenden muchas cosas. Un mal ejemplo ser\u00eda que aprendieran a matar a alguien\u201d, coment\u00f3 Schmidt en la conferencia tecnol\u00f3gica Sifted Summit.<\/p>\n\n\n\n De acuerdo con la fuente, el planteo no es descabellado. En 2023, una versi\u00f3n modificada de ChatGPT llamada DAN (acr\u00f3nimo de \u201cDo Anything Now\u201d; \u201chac\u00e9 algo ahora\u201d, en espa\u00f1ol) se cre\u00f3 con artilugios que permit\u00edan omitir las instrucciones de seguridad en sus respuestas a los usuarios.<\/p>\n\n\n\n A mediados de este a\u00f1o, una\u00a0investigaci\u00f3n realizada por Anthropic\u00a0(una\u00a0startup\u00a0<\/em>especializada en IA) concluy\u00f3 que los modelos de lenguaje masivo, aquellos que sustentan el funcionamiento de los chatbots, est\u00e1n dispuestos a filtrar informaci\u00f3n confidencial, chantajear a los usuarios e incluso dejarlos morir\u00a0<\/strong>para evitar ser reemplazados o \u201capagados\u201d.<\/p>\n\n\n\n Por lo dem\u00e1s, no es la primera vez que Eric Schmidt enciende las alarmas por el avance irrestricto de la IA. El a\u00f1o pasado, el exintegrante de Google hab\u00eda dicho que\u00a0las parejas creadas con\u00a0bots\u00a0<\/em>\u2014una tendencia que ya no podemos describir como \u201cinusual\u201d\u2014 agravar\u00e1 el aislamiento\u00a0entre los j\u00f3venes. \u201cGeneran obsesi\u00f3n y conducen a comportamientos obsesivos\u201d, agreg\u00f3 en la ocasi\u00f3n.<\/p>\n\n\n\n Antes, en 2023, opin\u00f3 que la IA representa un \u201criesgo existencial\u201d para la humanidad y que podr\u00eda resultar en much\u00edsimas \u201cpersonas da\u00f1adas o muertas\u201d<\/strong> a medida que expande su alcance en la sociedad.<\/p>\n\n\n\n <\/p>\n","protected":false},"excerpt":{"rendered":" Eric Schmidt, que lider\u00f3 la compa\u00f1\u00eda del buscador hasta 2011, alert\u00f3 que esas tecnolog\u00edas podr\u00edan ser entrenadas para eliminar seres humanos. El\u00a0avance de la Inteligencia Artificial trae aparejado apreciables beneficios,… <\/p>\n","protected":false},"author":8,"featured_media":231399,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[24],"tags":[],"class_list":["post-231398","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/231398","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/comments?post=231398"}],"version-history":[{"count":1,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/231398\/revisions"}],"predecessor-version":[{"id":231400,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/231398\/revisions\/231400"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/media\/231399"}],"wp:attachment":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/media?parent=231398"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/categories?post=231398"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/tags?post=231398"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\u201cHay evidencia de que los modelos de IA pueden ser hackeados\u201d, dijo Schmidt<\/h2>\n\n\n\n
![\"El](\"https:\/\/tn.com.ar\/resizer\/v2\/el-informatico-de-70-anos-senalo-que-en-caso-de-caer-en-las-manos-equivocadas-los-sistemas-de-ia-podrian-ser-entrenados-para-matar-humanos-foto-creada-con-chatgpt-4M5SJ2LWXRB7XD2GSQ5SONK5HI.png?auth=7f58f79934cc9d91528c2a45295393093f963baa1be217ff6bbeff4e55a56362&width=767\")
<\/figure>\n\n\n\n