Los chatbots podrían ser perjudiciales para la salud mental y el desarrollo social de los adolescentes: NPR
No fue hasta hace un par de años que Keri Rodrigues comenzó a preocuparse por cómo sus hijos podrían estar usando los chatbots. Se enteró de que su hijo menor estaba interactuando con el chatbot en su aplicación bíblica; le estaba haciendo algunas preguntas morales profundas, sobre el pecado, por ejemplo.
Ese es el tipo de conversación que esperaba que su hijo tuviera con ella y no con una computadora. «No todo en la vida es blanco o negro», afirma. «Hay grises. Y es mi trabajo como su madre ayudarlo a navegar y superarlo, ¿verdad?»
Rodrigues también ha escuchado a padres de todo el país preocupados por la influencia de los chatbots de IA en sus hijos. Ella es la presidenta de la Unión Nacional de Padresque aboga por los niños y las familias. Muchos padres, dice, están viendo cómo los chatbots afirman ser los mejores amigos de sus hijos, animando a los niños a contarles todo.
Los psicólogos y defensores de la seguridad en línea dicen que los padres tienen razón al estar preocupados. Las interacciones prolongadas con los chatbots pueden afectar el desarrollo social y la salud mental de los niños, afirman. Y la tecnología está cambiando tan rápido que existen pocas salvaguardias.
Los impactos pueden ser graves. Según los testimonios de sus padres en una audiencia reciente en el Senado, dos adolescentes se suicidaron después de interacciones prolongadas con chatbots que alentaron sus planes suicidas.
Pero los chatbots de IA generativa son una parte creciente de la vida de los adolescentes estadounidenses. A encuesta realizada por el Pew Research Center encontró que el 64% de los adolescentes usan chatbots, y 3 de cada 10 dicen que los usan a diario.
«Es una tecnología muy nueva», dice Dr. Jason Nagatapediatra e investigador del uso de medios digitales en adolescentes en la Universidad de California en San Francisco. «Está en constante cambio y todavía no existen mejores prácticas para los jóvenes. Así que creo que ahora hay más oportunidades de riesgos porque todavía somos una especie de conejillos de indias en todo el proceso».
Y los adolescentes son particularmente vulnerables a los riesgos de los chatbots, añade, porque la adolescencia es una época de rápido desarrollo cerebral, que está moldeado por las experiencias. «Es un período en el que los adolescentes son más vulnerables a muchas exposiciones diferentes, ya sean compañeros o computadoras».
Pero los padres pueden minimizar esos riesgos, dicen pediatras y psicólogos. A continuación se muestran algunas formas de ayudar a los adolescentes a navegar la tecnología de forma segura.
1. Sea consciente de los riesgos
A nuevo informe de la empresa de seguridad en línea Aura, muestra que el 42% de los adolescentes que utilizan chatbots de IA los utilizan como compañía. Aura recopiló datos del uso diario de dispositivos de 3000 adolescentes, así como encuestas a familias.
Eso incluye algunas conversaciones inquietantes que involucran violencia y sexo, dice el psicólogo Scott Kollins, director médico de Aura, quien dirige la investigación de la compañía sobre las interacciones de los adolescentes con la IA generativa.
«Es un juego de roles que es [an] interacción sobre dañar a otra persona, lastimarla físicamente, torturarla», dice.
Dice que es normal que los niños sientan curiosidad por el sexo, pero aprender sobre las interacciones sexuales a través de un chatbot en lugar de un adulto de confianza es problemático.
Y los chatbots están diseñados para llegar a un acuerdo con los usuarios, dice el pediatra Nagata. Entonces, si su hijo comienza una pregunta sobre sexo o violencia, «lo predeterminado de la IA es interactuar con ello y reforzarlo».
Dice que pasar mucho tiempo con chatbots (tener conversaciones prolongadas) también impide que los adolescentes aprendan habilidades sociales importantes, como la empatía, leer el lenguaje corporal y negociar diferencias.
«Cuando interactúas única o exclusivamente con computadoras que están de acuerdo contigo, no puedes desarrollar esas habilidades», dice.
Y existen riesgos para la salud mental. Según un estudio reciente Según investigadores de la organización de investigación sin fines de lucro RAND, de las universidades de Harvard y Brown, 1 de cada 8 adolescentes y adultos jóvenes utiliza chatbots para obtener consejos sobre salud mental.
Pero ha habido numerosos informes de personas que experimentan delirios, o lo que se conoce como psicosis de IA, después de interacciones prolongadas con chatbots. Esto, así como la preocupación por los riesgos de suicidio, ha llevado a los psicólogos a advertir que los chatbots de IA plantean graves riesgos para la salud mental y la seguridad de los adolescentes, así como de los adultos vulnerables.
«Vemos que cuando la gente interactúa con [chatbots] «Durante largos períodos de tiempo, las cosas comienzan a degradarse, los chatbots hacen cosas que no deben hacer», dice la psicóloga Ursula Whiteside, directora ejecutiva de una organización sin fines de lucro de salud mental llamada Now Matters Now. Por ejemplo, dice, los chatbots «dan consejos sobre medios letales, cosas que se supone que no deben hacer, pero que suceden con el tiempo con consultas repetidas».
2. Manténgase involucrado con la vida en línea de los niños
Mantenga un diálogo abierto con su hijo, dice Nagata.
«Los padres no necesitan ser expertos en IA», afirma. «Sólo necesitan sentir curiosidad por la vida de sus hijos y preguntarles qué tipo de tecnología están usando y por qué».
Y tenga esas conversaciones temprano y con frecuencia, dice el psicólogo Kollins de Aura.
«Necesitamos tener conversaciones frecuentes y sinceras, pero sin prejuicios, con nuestros hijos sobre cómo se ve este contenido», dice Kollins, quien también es padre de dos adolescentes. «Y vamos a tener que seguir haciendo eso».
A menudo pregunta a sus hijos adolescentes en qué plataformas están. Cuando se entera de nuevos chatbots a través de su propia investigación en Aura, también les pregunta a sus hijos si han oído hablar de ellos o si los han usado.
«No culpes al niño por expresar o aprovechar algo que existe para satisfacer su curiosidad y exploración naturales», dice.
Y asegúrese de mantener las conversaciones abiertas, dice Nagata: «Creo que eso permite que su adolescente o niño se sincere sobre los problemas que ha encontrado».
3. Desarrollar la alfabetización digital
También es importante hablar con los niños sobre los beneficios y los riesgos de la IA generativa. Y si los padres no comprenden todos los riesgos y beneficios, padres e hijos pueden investigarlo juntos, sugiere un psicólogo Jacqueline Nesi en la Universidad de Brown, quien participó en el reciente estudio de salud de la Asociación Estadounidense de Psicología asesoramiento sobre IA y salud de los adolescentes.
«Es necesario que se produzca una cierta alfabetización digital en casa», afirma.
Es importante que los padres y los adolescentes comprendan que, si bien los chatbots pueden ayudar con la investigación, también cometen errores, dice Nagata. Y es importante que los usuarios sean escépticos y verifiquen los hechos.
«Parte de este proceso educativo para los niños es ayudarlos a comprender que ésta no es la última palabra», explica Nagata. «Usted mismo puede procesar esta información e intentar evaluar qué es real o no. Y si no está seguro, intente verificarlo con otras personas u otras fuentes».
4. Los controles parentales solo funcionan si los niños configuran sus propias cuentas
Si un niño usa chatbots de IA, puede ser mejor para él configurar su propia cuenta en las plataformas, dice Nesi, en lugar de usar chatbots de forma anónima.
«Muchas de las plataformas más populares ahora cuentan con controles parentales», dice. «Pero para que esos controles parentales entren en vigor, el niño debe tener su propia cuenta».
Pero tenga en cuenta que hay docenas de chatbots de IA diferentes que los niños podrían utilizar. «Identificamos 88 plataformas de inteligencia artificial diferentes con las que interactuaban los niños», dice Kollins.
Esto subraya la importancia de tener un diálogo abierto con su hijo para estar al tanto de lo que está usando.
5. Establecer límites de tiempo
Nagata también aconseja establecer límites cuando los niños usan la tecnología digital, especialmente durante la noche.
«Un aspecto potencial de la IA generativa que también puede tener impactos en la salud mental y física es [when] «Los niños conversan toda la noche y eso realmente perturba su sueño», dice Nagata. «Debido a que son conversaciones muy personalizadas, son muy interesantes. Es más probable que los niños sigan participando y lo utilicen cada vez más».
Y si un niño se inclina hacia el uso excesivo o indebido de la IA generativa, Nagata recomienda que los padres establezcan límites de tiempo o limiten ciertos tipos de contenido en los chatbots.
6. Busque ayuda para los adolescentes más vulnerables
Los niños que ya están luchando con su salud mental o sus habilidades sociales tienen más probabilidades de ser vulnerables a los riesgos de los chatbots, dice Nesi.
«Entonces, si ya se sienten solos, si ya están aislados, entonces creo que existe un riesgo mayor de que tal vez un chatbot pueda exacerbar esos problemas», dice.
Y también es importante estar atento a las posibles señales de advertencia de una mala salud mental, señala.
Esas señales de advertencia implican cambios repentinos y persistentes de humor, aislamiento o cambios en su participación en la escuela.
«Los padres deben intentar, en la medida de lo posible, prestar atención a la imagen completa del niño», afirma Nesi. «¿Cómo les va en la escuela? ¿Cómo les va con los amigos? ¿Cómo les va en casa si están empezando a retraerse?»
Si un adolescente se aleja de sus amigos y familiares y restringe sus interacciones sociales solo al chatbot, eso también es una señal de advertencia, dice. «¿Acudirán al chatbot en lugar de a un amigo, o a un terapeuta, o a adultos responsables, para tratar temas serios?
También busque signos de dependencia o adicción a un chatbot, añade. «¿Tienen dificultades para controlar cuánto usan un chatbot? ¿Está empezando a sentir que los está controlando? Es como si no pudieran parar», dice.
Y si ven esos signos, los padres deben buscar ayuda de un profesional, dice Nesi.
«Hablar con el pediatra de un niño siempre es un buen primer paso», afirma. «Pero en la mayoría de los casos, probablemente tenga sentido involucrar a un profesional de la salud mental».
7. El gobierno tiene un papel que desempeñar
Pero reconoce que la tarea de mantener a los niños y adolescentes a salvo de esta tecnología no debería recaer únicamente en los padres.
«Existe la responsabilidad, ya sabes, de los legisladores y de las propias empresas de hacer que estos productos sean seguros para los adolescentes».
Los legisladores en el Congreso recientemente introdujo una legislación bipartidista prohibir a las empresas de tecnología ofrecer aplicaciones complementarias para menores y responsabilizar a las empresas por poner a disposición de menores aplicaciones complementarias que produzcan o soliciten contenido sexual.
Si usted o alguien que conoce puede estar considerando suicidarse o estar en crisis, llame o envíe un mensaje de texto 988 para llegar a 988 Suicide & Crisis Lifeline.