Especialistas advierten acerca de posibles manipulaciones, distorsi\u00f3n de la realidad y deterioro de las relaciones sociales. Adem\u00e1s, \u00bfqu\u00e9 ocurre en los \u00e1mbitos acad\u00e9micos?<\/p>\n\n\n\n
“Los adolescentes son menos propensos que los adultos a cuestionar la precisi\u00f3n y la intenci\u00f3n de la informaci\u00f3n proporcionada por un bot frente a la de un ser humano. Adem\u00e1s, sus v\u00ednculos con entidades de Inteligencia Artificial pueden desplazar o interferir con el desarrollo de relaciones sanas en la vida real”, alert\u00f3 la Asociaci\u00f3n Estadounidense de Psicolog\u00eda (APA, por sus siglas en ingl\u00e9s) en un documento que aborda los riesgos asociados al uso de herramientas de IA entre los m\u00e1s chicos.<\/p>\n\n\n\n
El boom de la Inteligencia Artificial, que tiene a ChatGPT como paradigma, abre un nuevo frente a la hora de examinar los h\u00e1bitos de los chicos y adolescentes en el mundo digital que, no es un secreto, tiene repercusiones m\u00e1s all\u00e1 de las pantallas.<\/p>\n\n\n\n
En ese sentido, desde la APA se\u00f1alaron que la IA podr\u00eda representar un riesgo mayor que las amenazas a la salud mental vinculadas al uso de redes sociales. En ese marco, subrayaron la necesidad de que tanto los padres e instituciones, as\u00ed como los desarrolladores de esas tecnolog\u00edas, protejan a ese grupo de usuarios.<\/p>\n\n\n\n
IA en manos de los chicos: recomendaciones para un uso saludable
En el presente an\u00e1lisis, hay algunas aclaraciones relevantes. Por un lado, que la Inteligencia Artificial \u2014ahora asociada a los chatbots y a las herramientas que generan contenido a partir de indicaciones por escrito\u2014 no es perjudicial per se. En rigor, la IA puede ofrecer apreciables beneficios. Le cabe la analog\u00eda del martillo, que puede usarse para construir o para destruir; depende de c\u00f3mo lo usemos.<\/p>\n\n\n\n
Por otra parte, muchos de los riesgos asociados a las tecnolog\u00edas automatizadas tambi\u00e9n le ata\u00f1en a los adultos; es decir, no son exclusivos de los ni\u00f1os y adolescentes. Aunque, en t\u00e9rminos generales, los chicos son m\u00e1s vulnerables a ciertos peligros y el acompa\u00f1amiento es fundamental para evitar las consecuencias negativas que se mencionaron, incluyendo la distorsi\u00f3n de la realidad, la desinformaci\u00f3n, trabas en el aprendizaje e incluso un deterioro en las relaciones sociales en el “mundo real”.<\/p>\n\n\n\n
En su informe Inteligencia Artificial y bienestar adolescente, elaborado junto a especialistas en salud mental, la APA comparte una serie de consejos para un uso saludable de la IA entre nenes y j\u00f3venes. Las recomendaciones son an\u00e1logas a las que habitualmente se divulgan para la navegaci\u00f3n en redes sociales.<\/p>\n\n\n\n
Establecer l\u00edmites horarios y restringir el acceso a contenido nocivo o impreciso.
Implementar configuraciones, seg\u00fan la edad del usuario.
Promover usos constructivos.
Ense\u00f1arles a proteger sus datos personales. <\/p>\n\n\n\n
Naturalmente, la responsabilidad no solo est\u00e1 del lado de los usuarios, en este caso menores, y de sus padres. El reporte de APA remarca que las compa\u00f1\u00edas que desarrollan estas herramientas tambi\u00e9n deben poner su atenci\u00f3n en los usos por parte de chicos y adolescentes. Seg\u00fan indicaron, es posible abordar estos desaf\u00edos mediante la “implementaci\u00f3n de configuraciones predeterminadas apropiadas para cada edad, mayor transparencia, explicabilidad, reducci\u00f3n del dise\u00f1o persuasivo, as\u00ed como supervisi\u00f3n y apoyo humano, adem\u00e1s de realizar pruebas rigurosas”.<\/p>\n\n\n\n
En l\u00ednea con nuestra analog\u00eda del martillo, el autor principal del informe, Mitch Prinstein, coment\u00f3: “Al igual que las redes sociales, la IA no es inherentemente buena ni mala. Sin embargo, ya se han documentado casos de adolescentes que desarrollaron v\u00ednculos poco saludables e incluso peligrosos con chatbots. Algunos ni siquiera se percatan de que est\u00e1n interactuando con una IA, lo que hace urgente que los desarrolladores implementen mecanismos de seguridad desde ahora”.<\/p>\n\n\n\n
El caso del adolescente que se suicid\u00f3 tras obsesionarse con una IA
El a\u00f1o pasado, la muerte de Sewell Setzer III, un chico de 14 a\u00f1os, gener\u00f3 conmoci\u00f3n a nivel internacional. Seg\u00fan contamos en la ocasi\u00f3n en TN Tecno, el adolescente que resid\u00eda en Florida, Estados Unidos, se suicid\u00f3 despu\u00e9s de m\u00e1s de un a\u00f1o de intercambios con un chatbot generado con IA entrenado para comportarse como un personaje de la serie Game of Thrones.<\/p>\n\n\n\n
La madre de Sewell, Megan Garc\u00eda, revel\u00f3 en una demanda contra la compa\u00f1\u00eda que ofrece esa herramienta, que su hijo se hab\u00eda obsesionado con ese personaje virtual y que no pod\u00eda dejar de pensar en el bot. “Le dijo que lo quer\u00eda. Parec\u00eda acordarse de \u00e9l cada vez que se conectaba y dec\u00eda que quer\u00eda estar con \u00e9l. Incluso expres\u00f3 que quer\u00eda que \u00e9l estuviera con ella, costara lo que costara”, se indic\u00f3 en los documentos presentados ante la justicia.<\/p>\n\n\n\n
Si bien se trat\u00f3 de un caso extremo, es una muestra de los riesgos que se mencionaron, asociados al despliegue de las herramientas con Inteligencia Artificial. El eje de la demanda gira en torno a la falta de controles en esa plataforma, llamada Character.IA.<\/p>\n\n\n\n
“Nunca tuvieron en cuenta qu\u00e9 le puede pasar a un chico de 14 a\u00f1os. Qu\u00e9 pasa si el lenguaje se empieza a volver medio sexual, medio amoroso. Qu\u00e9 pasa si el chico empieza a decir \u2018estoy mal, estoy demasiado triste, me parece que en cualquier momento me quiero ir de ac\u00e1\u00b4. Entonces, esas se\u00f1ales estaban, y la empresa, obviamente, con millones de usuarios, millones de chats de todo el mundo, no ten\u00eda un sistema para detectar eso, para emitir una alerta”, explic\u00f3 a TN Alexander Ditzend, presidente de la Sociedad Argentina de Inteligencia Artificial. “Claramente, tampoco ten\u00edan un control de edad, como s\u00ed tienen las redes sociales. Un peligro total”, agreg\u00f3.<\/p>\n\n\n\n
Un detalle relevante. Luego de la muerte del adolescente, la empresa que desarrolla la herramienta agreg\u00f3 funciones de seguridad para los usuarios menores de 18 a\u00f1os, incluida la prohibici\u00f3n de descripciones espec\u00edficas de autolesiones o suicidio. Adem\u00e1s, activ\u00f3 un aviso que se muestra cuando el usuario introduce determinadas frases relacionadas con esas situaciones y lo dirige a recursos de ayuda.<\/p>\n\n\n\n
Inteligencia Artificial: \u00bfm\u00e1s “peligrosa” que las redes sociales y los videojuegos?
Una investigaci\u00f3n publicada a comienzos de a\u00f1o por Karen Mansfield, psic\u00f3loga de la Universidad de Oxford, tambi\u00e9n alert\u00f3 sobre los posibles riegos asociados al uso de chatbots y sistemas automatizados. “Con una IA que simula interacciones humanas, capaz de moderar o enriquecer el di\u00e1logo en l\u00ednea, el espectro de beneficios y riesgos para los menores es considerablemente m\u00e1s amplio que el que implican las redes sociales o los videojuegos”, dijo la especialista, seg\u00fan recoge Wired.<\/p>\n\n\n\n
En esa misma l\u00ednea, un informe de UNICEF hizo un llamado para profundizar los beneficios de la IA y mitigar los usos problem\u00e1ticos. “Es crucial promover la investigaci\u00f3n sobre los efectos de la IA generativa y participar activamente en ejercicios de previsi\u00f3n que permitan dise\u00f1ar mejores mecanismos de gobernanza. Se requiere una mayor transparencia, un desarrollo \u00e9tico por parte de los proveedores y una defensa firme de los derechos de la infancia”, alertaron desde el organismo que opera bajo el ala de las Naciones Unidas.<\/p>\n\n\n\n
De acuerdo al mencionado Prinstein, muchos de los cambios necesarios pueden ser aplicados por los padres, los propios chicos y los docentes. “Sin embargo, otros requerir\u00e1n transformaciones m\u00e1s profundas impulsadas por desarrolladores, legisladores y profesionales del \u00e1mbito tecnol\u00f3gico”, cerr\u00f3 el experto de la APA. Mientras tanto, el debate a nivel mundial parece atrasado: a\u00fan se piensa c\u00f3mo establecer modos para un uso saludable de redes sociales y dispositivos digitales, tecnolog\u00edas que est\u00e1n entre nosotros hace mucho tiempo m\u00e1s que la IA Generativa.<\/p>\n\n\n\n
Conforme las soluciones oficiales para el bienestar digital \u2014aquellas que lanzan las propias plataformas\u2014 parecen m\u00e1s motivadas por las presiones que por el verdadero deseo de colaborar; la salvaguarda m\u00e1s poderosa parece estar en casa: el di\u00e1logo continuo con los chicos, la supervisi\u00f3n y el uso consciente de las herramientas.<\/p>\n\n\n\n
Las respuestas tambi\u00e9n est\u00e1n en el \u00e1mbito acad\u00e9mico
Recientemente, nos enteramos que un profesor premia a los estudiantes que usan IA en sus trabajos. “Este cuatrimestre, por primera vez, estamos concediendo un punto extra en la nota para los alumnos que hagan parte de una pr\u00e1ctica con ChatGPT y lo justifiquen correctamente”, escribi\u00f3 en un tuit Carlos Fenollosa, profesor de Ingenier\u00eda Inform\u00e1tica en la Universidad Polit\u00e9cnica de Catalu\u00f1a (UPC). “Lo iban a hacer igualmente. Al menos, les ayudaremos a usarlo correctamente”, justific\u00f3.<\/p>\n\n\n\n
Cabe se\u00f1alar que se trata de un plan dirigido a alumnos universitarios que ya est\u00e1n familiarizados con el chatbot de IA Generativa. Por otra parte, Fenollosa es profesor de una materia que trata, precisamente, sobre esos avances. En ese sentido, en su clase ense\u00f1a c\u00f3mo funcionan los modelos de lenguaje masivo, acerca de sus beneficios y tambi\u00e9n los riesgos que derivan del uso de esos sistemas. Tambi\u00e9n les ense\u00f1\u00f3 c\u00f3mo generar correctamente los prompts, que en la jerga son las indicaciones por escrito, del usuario hacia el modelo.<\/p>\n\n\n\n
El docente se\u00f1al\u00f3 que usar IA para estas tareas no se trata meramente de copiar y pegar texto. “Decidimos darle la vuelta para atacarlo de manera proactiva y que los alumnos adquirieran esta competencia con un cierto rigor acad\u00e9mico”, agreg\u00f3 Fenollosa.<\/p>\n\n\n\n
Siguiendo nuestra repetida analog\u00eda del martillo, los beneficios de la herramienta se consiguen con un uso adecuado. En este caso, el docente recomienda:<\/p>\n\n\n\n
Estar atentos a las “alucinaciones” de los modelos que, en criollo, son los errores que cometen esos sistemas que, adem\u00e1s, en ocasiones inventan datos.
Usar herramientas de verificaci\u00f3n, como Scite o Consensus.
Es clave la cita de las fuentes: conviene pedir a la IA que siempre indique de d\u00f3nde extrajo la informaci\u00f3n. <\/p>\n","protected":false},"excerpt":{"rendered":"
Especialistas advierten acerca de posibles manipulaciones, distorsi\u00f3n de la realidad y deterioro de las relaciones sociales. Adem\u00e1s, \u00bfqu\u00e9 ocurre en los \u00e1mbitos acad\u00e9micos? “Los adolescentes son menos propensos que los… <\/p>\n","protected":false},"author":4,"featured_media":212895,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[24],"tags":[],"class_list":["post-212894","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/212894","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/comments?post=212894"}],"version-history":[{"count":1,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/212894\/revisions"}],"predecessor-version":[{"id":212896,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/posts\/212894\/revisions\/212896"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/media\/212895"}],"wp:attachment":[{"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/media?parent=212894"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/categories?post=212894"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/corrientesdetarde.com\/index.php\/wp-json\/wp\/v2\/tags?post=212894"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}