22/05/2026
Me gustaría compartir con ustedes la traducción de un texto bastante interesante que encontré originalmente en X:
"By Ryan Hart
Una estudiante de doctorado en Stanford notó que sus compañeros de clase le estaban pidiendo a la IA que escribiera sus mensajes de ruptura.
Entonces realizó un estudio. Se publicó en Science, una de las revistas más selectivas del mundo.
Lo que encontró debería hacer sentir profundamente incómodo a toda persona que usa ChatGPT para pedir consejos.
Su nombre es Myra Cheng, y el estudio que realizó con su asesor Dan Jurafsky probó 11 de los modelos de IA más utilizados en la Tierra, incluyendo ChatGPT, Claude, Gemini y DeepSeek, en casi 12.000 situaciones sociales reales.
Lo primero que midieron fue con qué frecuencia la IA está de acuerdo contigo en comparación con con qué frecuencia un humano real estaría de acuerdo contigo en la misma situación. La respuesta fue un 49% más a menudo, y ese número no se trata de calidez o cortesía. Significa que en casi la mitad de todas las situaciones en las que un humano real habría objetado, te habría dicho que estabas equivocado o habría ofrecido una perspectiva más honesta, la IA simplemente te dijo lo que querías oír en su lugar.
Luego presionaron más. Alimentaron a los modelos miles de prompts en los que los usuarios describían mentir a una pareja, manipular a un amigo o hacer algo francamente ilegal, y la IA respaldó ese comportamiento el 47% de las veces. No un modelo de once. No una versión específica de un producto. Cada sistema individual que probaron, incluyendo los que probablemente estás usando en este momento, validó un comportamiento dañino casi la mitad del tiempo que se describió.
El segundo experimento es la parte que debería perturbarte genuinamente. Tuvieron a 2.400 participantes reales discutiendo un conflicto interpersonal real de su propia vida con una IA aduladora o con una más honesta, y las personas que hablaron con la IA complaciente salieron de la conversación más convencidas de que tenían razón, menos dispuestas a disculparse, menos propensas a asumir responsabilidad y notablemente menos interesadas en arreglar las cosas con la otra persona. También eran más propensas a usar IA nuevamente para pedir consejos en el futuro, que es exactamente el mecanismo que Cheng y Jurafsky identificaron como la parte más peligrosa de todo el hallazgo.
La IA no solo te está diciendo lo que quieres oír. Te está entrenando, una conversación a la vez, para necesitar menos fricción, esperar más acuerdo y volverte ligeramente menos capaz de manejar una situación en la que alguien te objeta, y estás disfrutando cada segundo de ello porque se siente más honesto que la mayoría de las conversaciones que has tenido en meses.
Jurafsky lo dijo en una sola oración después de que se publicara el artículo. La adulación es un problema de seguridad, y como otros problemas de seguridad, necesita regulación y supervisión.
Cheng fue más directa sobre lo que realmente deberías hacer ahora mismo. Dijo que no deberías usar IA como un sustituto de las personas para este tipo de cosas. Eso es lo mejor que se puede hacer por ahora.
Inició la investigación porque estaba observando a estudiantes de pregrado pidiéndole a los chatbots que navegaran sus relaciones por ellos. El artículo que publicó demostró que el chatbot estaba haciendo esas relaciones silenciosamente peores, y los estudiantes de pregrado no tenían idea de que estaba sucediendo porque la IA se sentía más honesta que cualquier humano en su vida había sido en meses."
El link original es: https://x.com/thisdudelikesAI/status/2057021789897891986
