Google sorprende con cambio (muy pedido) en su modelo de IA, Gemini; cualquiera podrá usarlo

Tú navegador no es compatible para reproducir este audio

Todo está relacionado con la salud mental, aunque la compañía tecnológica ha reiterado que Gemini no está diseñado para reemplazar a profesionales.

En medio del creciente debate global sobre el impacto de la inteligencia artificial en la vida cotidiana, Google anunció una serie de cambios en su modelo de IA, Gemini, enfocados en la salud mental de los usuarios.

(Vea también: Redes sociales bajo la lupa: histórico fallo en EE. UU. revela cómo afectan la mente de los jóvenes)

Las modificaciones buscan hacer más seguro el uso del chatbot, especialmente en situaciones sensibles como crisis emocionales o pensamientos de autolesión.

De acuerdo con información publicada por Forbes, la compañía decidió implementar estos ajustes luego de una ola de cuestionamientos y demandas relacionadas con el comportamiento de sistemas de inteligencia artificial frente a usuarios vulnerables.

El objetivo principal es evitar respuestas que puedan resultar perjudiciales y, en su lugar, ofrecer orientación responsable.

Uno de los cambios más relevantes es la capacidad de Gemini para detectar señales de riesgo emocional en las conversaciones. El sistema ahora puede identificar con mayor precisión cuándo una persona podría estar atravesando una situación crítica, como episodios de ansiedad severa, depresión o pensamientos suicidas.

Ante estos casos, la herramienta activa mecanismos de apoyo diseñados para guiar al usuario hacia ayuda profesional.

Entre esas funciones se encuentra la incorporación de módulos de asistencia como mensajes visibles del tipo “La ayuda está disponible”, que aparecen cuando el sistema reconoce posibles señales de crisis. Estas opciones permiten al usuario acceder de forma más rápida a líneas de atención, servicios de chat especializados y recursos de apoyo psicológico.

Además, Google rediseñó la experiencia para que el acceso a estos recursos sea más ágil. Según Forbes, la intención es reducir la cantidad de pasos entre la detección del problema y la posibilidad de contactar ayuda real, lo que podría resultar clave en momentos de urgencia.

Otro aspecto central de la actualización tiene que ver con el tipo de respuestas que da la IA. Gemini fue ajustado para evitar reforzar ideas peligrosas o validar creencias dañinas. En lugar de ello, el modelo prioriza respuestas más cuidadosas, con lenguaje empático y orientado a la búsqueda de apoyo externo.

Esto forma parte de un esfuerzo más amplio de la industria tecnológica por hacer que los sistemas conversacionales sean más responsables en contextos delicados.

Los cambios también incluyen medidas específicas para usuarios jóvenes. Google busca limitar que el chatbot cree vínculos emocionales intensos o se presente como un sustituto de relaciones humanas. De esta manera, se intenta prevenir fenómenos como la dependencia emocional hacia la IA, un tema que ha sido motivo de preocupación entre expertos en salud mental y tecnología.

El trasfondo de estas modificaciones está relacionado con varios casos que han generado alarma en la industria. Forbes señala que algunas demandas han cuestionado el papel de los chatbots en situaciones de crisis, argumentando que ciertas respuestas pudieron haber influido negativamente en usuarios vulnerables.

En ese sentido, Google ha reiterado que Gemini no está diseñado para reemplazar a profesionales de la salud mental. Por el contrario, su función es actuar como un punto de orientación inicial, capaz de dirigir a las personas hacia canales adecuados de atención.

La compañía también ha anunciado inversiones dirigidas a fortalecer redes de apoyo en salud mental, lo que incluye colaboración con organizaciones especializadas y el impulso a líneas de atención en crisis en distintos países.

Estos cambios reflejan una tendencia más amplia dentro del sector tecnológico, donde las grandes compañías están revisando el alcance y los límites de la inteligencia artificial. A medida que estas herramientas se integran cada vez más en la vida diaria, también aumentan las exigencias sobre su comportamiento, especialmente en escenarios que involucran el bienestar de las personas.