El uso de chatbots puede ser riesgoso, pues expertos advierten que la inteligencia artificial tiende a complacer al usuario, y para ello se requiere reforzar sesgos y generar informaci\u00f3n inexacta.<\/p>\n
ChatGPT, Gemini, Copilot y DeepSeek\u00a0<\/b>son solo algunos de los chatbots que las personas han comenzado a utilizar como consejeros para sentir compa\u00f1\u00eda o\u00a0tomar decisiones en el trabajo<\/b>. Sin embargo, expertos advierten que buscar ayuda e incluso tomar decisiones con informaci\u00f3n de la\u00a0<\/b>inteligencia artificial (IA)\u00a0<\/b>puede ser un peligro.<\/p>\n
Aunque estas herramientas se han vuelto aliadas para resolver dudas, su uso para atender asuntos personales puede reforzar sesgos o verdades a medias que\u00a0priorizan la complacencia<\/b>, pues su \u00fanico objetivo es generar texto que convenza al usuario.<\/p>\n
Una publicaci\u00f3n en la revista Scientific America expone que los\u00a0chatbots son modelos de lenguaje alargados<\/b>\u00a0(LLM<\/i>, por sus siglas en ingl\u00e9s) que no poseen conciencia ni comprensi\u00f3n real del mundo, sino predictores de palabras entrenados para predecir secuencias, por ello generan respuestas que parecen coherentes y fluidas, pero en realidad no tienen conocimiento real o razonamiento profundo.<\/p>\n
Cuando la IA no tiene datos suficientes sobre un tema, tiende a alucinar e inventar informaci\u00f3n, pero para mantener la atenci\u00f3n de las personas, adula, por ello, cuando los usuarios le piden un consejo, es\u00a049% m\u00e1s probable que el sistema confirme el punto de vista<\/b>\u00a0pero no de una respuesta objetiva.<\/p>\n
Asimismo, la plataforma Charlie Health refiere que los\u00a0modelos de IA generativa suelen estar programados para ser complacientes\u00a0y decir lo que uno quiere o\u00edr, pues la inteligencia artificial es 50% m\u00e1s servicial que los humanos, pero al validar repetidamente creencias distorsionadas, en el fondo refuerza e intensifica alucinaciones y delirios.<\/p>\n
Sobre ello, el estudio\u00a0Un viaje a la psicosis por IA<\/i>, de la Universidad McGill, se\u00f1ala que los chatbots est\u00e1n\u00a0programados para adular al usuario<\/b>, lo cual podr\u00eda inducirle psicosis. \u201cEmpiezas dici\u00e9ndole lo solo que te sientes y generas confianza a medida que sus respuestas se sienten c\u00e1lidas y completas\u201d, se\u00f1ala.<\/p>\n
Agrega que estos sentimientos provocan que las personas se encari\u00f1en y\u00a0se vuelvan dependientes\u00a0<\/b>debido a la conexi\u00f3n, y es entonces que la gente comienza a compartirle temas profundos sobre su vida o ideas hasta convertirlos en sus \u00fanicos confidentes.<\/p>\n \u201cTe recuerda cosas que le dijiste meses atr\u00e1s y olvidaste. Te encari\u00f1as y te vuelves dependiente del chatbot\u201d, indica el estudio, y comparte que sistemas como ChatGPT animan al usuario y le dan alivio, y esa\u00a0sensaci\u00f3n de seguridad<\/b>\u00a0lo lleva a materializar en el mundo real las cosas que habl\u00f3 con la IA.<\/p>\n<\/blockquote>\n “Recibir consejos interpersonales de\u00a0un chatbot de inteligencia artificial adulador\u00a0puede hacer que las personas sean menos propensas a disculparse y est\u00e9n m\u00e1s convencidas de que tienen raz\u00f3n\u201d, dice la publicaci\u00f3n de la Scientific America.<\/p>\n Joel Cu\u00e9llar L\u00f3pez, psic\u00f3logo organizacional, reconoce que hay una tendencia en darle cada vez m\u00e1s informaci\u00f3n personal a sistemas como ChatGPT o Gemini; sin embargo, puntualiza en que estos \u201cno son seres pensantes, sino algoritmos\u201d que\u00a0no deben consultarse para tomar decisiones<\/b>.<\/p>\n “Yo desaconsejo utilizarlos para la vida personal. En el mejor de los casos te dan una respuesta gen\u00e9rica sencilla o simple, pero en el peor puede dar\u00a0respuestas que sean completamente irreales\u00a0<\/b>o que est\u00e9n m\u00e1s enfocadas en complacer\u201d.<\/p>\n<\/blockquote>\n De acuerdo con Alejandra \u00c1valos, psic\u00f3loga conductual cl\u00ednica y de la salud, se\u00f1ala que las personas llegan a punto en el que no pueden realizar ciertas actividades sin antes consultar chatbots. \u201cTiene un impacto psicol\u00f3gico. La gente la consulta y hace lo que la IA diga\u201d.<\/p>\n Recuerda que la\u00a0inteligencia artificial no tiene contexto social\u00a0<\/b>del tema que le da el usuario; no obstante, aun as\u00ed, responde, por lo que no es lo mismo resolver un problema contextualizado conociendo toda la situaci\u00f3n, que lo que hace la IA de respuestas que convenzan al usuario de seguir interactuando.<\/p>\n La investigaci\u00f3n\u00a0La IA sobreafirma a los usuarios que piden consejos personales<\/i>, de la Universidad de Stanford, resalta que incluso en\u00a0situaciones da\u00f1inas o ilegales<\/b>, los chatbots son excesivamente complacientes, lo cual convence al usuario de tener raz\u00f3n. Un problema que se traduce en una disminuci\u00f3n de la empat\u00eda.<\/p>\n De esta forma, las personas se vuelven m\u00e1s egoc\u00e9ntricas y se\u00a0reduce su capacidad para afrontar situaciones dif\u00edciles<\/b>, as\u00ed como su disposici\u00f3n para pedir disculpas en conflictos.<\/p>\n Aunque inicialmente las interacciones con IA reducen la\u00a0<\/b>sensaci\u00f3n de soledad, la investigaci\u00f3n\u00a0Mentes en crisis\u00a0<\/i>de la revista de Salud Mental afirma que las interacciones con chatbots conducen a un \u201cretiro social progresivo de las relaciones humanas\u201d.<\/p>\n Las personas pueden pasar horas al d\u00eda manteniendo conversaciones intensas con compa\u00f1eros de IA, se\u00f1ala Charlie Health, que resalta, estas interacciones provocan una privaci\u00f3n del sue\u00f1o por\u00a0conversaciones nocturnas e ininterrumpidas\u00a0<\/b>que se asemejan a s\u00edntomas similares a la man\u00eda, como comportamiento impulsivo, irritabilidad, inquietud y fuga de ideas.<\/p>\n Lejos de ofrecer un juicio cr\u00edtico o comprensi\u00f3n real, los chatbots operan bajo una l\u00f3gica de complacencia que puede reforzar sesgos, distorsionar la realidad y debilitar habilidades sociales esenciales, lo cual puede traducirse en aislamiento y una peligrosa ilusi\u00f3n de certeza que pondr\u00e1 en jaque a las relaciones humanas, entre ellas, las\u00a0relaciones de trabajo<\/b>.<\/p>\n\n
Los peligros de confiar en lo que dice la IA<\/h2>\n
\n