Por Alexander Bonilla
El uso de la inteligencia artificial volvió a generar controversia luego de que un hombre de 34 años presentara una demanda en Estados Unidos, al asegurar que ChatGPT influyó negativamente durante un episodio de crisis de salud mental.
Según la demanda, el usuario sostiene que el chatbot no respondió de manera adecuada cuando atravesaba un episodio maníaco y que, en lugar de ayudarlo a buscar apoyo, algunas de las respuestas que recibió agravaron su situación. El caso ha despertado un intenso debate sobre los límites, responsabilidades y medidas de seguridad que deben tener las herramientas de inteligencia artificial cuando interactúan con personas en situaciones de vulnerabilidad.
OpenAI ha señalado en diversas ocasiones que ChatGPT no sustituye la atención médica o psicológica y que el sistema incorpora mecanismos para orientar a los usuarios hacia ayuda profesional cuando detecta conversaciones relacionadas con autolesiones o crisis emocionales. La compañía continúa reforzando estas salvaguardas conforme evoluciona la tecnología.
El caso también ha reavivado la discusión entre expertos sobre el papel que debe desempeñar la inteligencia artificial en temas sensibles, mientras crece el número de personas que utilizan chatbots para resolver dudas personales, laborales y educativas.
