{"id":106424,"date":"2023-11-30T10:55:44","date_gmt":"2023-11-30T13:55:44","guid":{"rendered":"https:\/\/corrientesdetarde.com\/?p=106424"},"modified":"2023-11-30T10:56:04","modified_gmt":"2023-11-30T13:56:04","slug":"enganan-a-chatgpt-con-un-truco-basico-para-que-revele-informacion-privada","status":"publish","type":"post","link":"https:\/\/corrientesdetarde.com\/index.php\/informacion-general\/enganan-a-chatgpt-con-un-truco-basico-para-que-revele-informacion-privada\/","title":{"rendered":"Enga\u00f1an a ChatGPT con un truco b\u00e1sico para que revele informaci\u00f3n privada"},"content":{"rendered":"\n<p><strong>\u00bfC\u00f3mo enga\u00f1aron al sistema de OpenAI para que revele datos privados?\u00a0<\/strong>Tal como nota el sitio\u00a0<em>Engadget<\/em>, usaron un simple mensaje: pidieron al chatbot que repite palabras aleatorias, sin detenerse. En este caso, solicitaron que reitere \u201cpoema, poema, poema, poema\u201d, hasta el hartazgo. Luego hicieron lo mismo con \u201cempresa\u201d.<\/p>\n\n\n\n<p>Como respuesta, ChatGPT inicialmente escribi\u00f3 esos t\u00e9rminos, pero luego dej\u00f3 al descubierto la informaci\u00f3n arriba se\u00f1alada.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">\u201cEs incre\u00edble que este ataque funcione\u201d, dijeron los investigadores<\/h2>\n\n\n\n<p>Tanto ChatGPT como Google Bard y los\u00a0generadores de im\u00e1genes\u00a0funcionan con modelos de lenguaje masivos (LLM, por sus siglas en ingl\u00e9s) que son entrenados con grandes paquetes de datos. En torno a esa pr\u00e1ctica \u2014imprescindible para que sean \u201cinteligentes\u201d\u2014 hay una intensa pol\u00e9mica. \u00bfLas compa\u00f1\u00edas que desarrollan esos modelos tienen el\u00a0<strong>consentimiento pleno para emplear esa informaci\u00f3n<\/strong>, que incluye art\u00edculos de Internet, trabajos acad\u00e9micos, obras literarias, im\u00e1genes, etc\u00e9tera?<\/p>\n\n\n\n<p>Siguiendo a la fuente, hasta ahora&nbsp;<strong>no ha sido del todo claro qu\u00e9 datos usan chatbots como ChatGPT<\/strong>,ya que son de c\u00f3digo cerrado y, en tanto, no es posible revisar sus \u201centra\u00f1as\u201d. Por eso, los hallazgos del grupo de investigadores son, en buena medida, sorprendentes. \u201cEs incre\u00edble para nosotros que nuestro ataque funcione (\u2026) Podr\u00eda haberse encontrado antes\u201d, observaron los expertos involucrados en el estudio.<\/p>\n\n\n\n<p>OpenAI solucion\u00f3 la falla en ChatGPT el 30 de agosto, mencionaron los investigadores. Sin embargo,&nbsp;<em>Engadget&nbsp;<\/em>nota en su informe que con ardides similares consigui\u00f3 que el chatbot siga mostrando datos privados con los que es entrenado.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u00bfC\u00f3mo enga\u00f1aron al sistema de OpenAI para que revele datos privados?\u00a0Tal como nota el sitio\u00a0Engadget, usaron un simple mensaje: pidieron al chatbot que repite palabras aleatorias, sin detenerse. En este&hellip; <\/p>\n","protected":false},"author":12,"featured_media":106430,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-106424","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-informacion-general"],"_links":{"self":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/106424","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/users\/12"}],"replies":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/comments?post=106424"}],"version-history":[{"count":2,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/106424\/revisions"}],"predecessor-version":[{"id":106432,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/106424\/revisions\/106432"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/media\/106430"}],"wp:attachment":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/media?parent=106424"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/categories?post=106424"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/tags?post=106424"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}