Vermont se suma a la lista de estados que legislan sobre el uso de inteligencia artificial en salud mental. Su nueva ley, H.816, establece que un profesional de salud mental debe revisar y aprobar cualquier recomendación generada por un sistema de IA antes de que llegue al usuario. El marco es, según el análisis del científico de IA Lance Eliot publicado en Forbes, «generalmente comparable al de muchos otros estados que han promulgado leyes similares», sin condiciones especialmente inusuales.
El principio es razonable: un terapeuta capacitado debería detectar consejos inadecuados o francamente peligrosos que un modelo de lenguaje pueda emitir. El problema, señala Eliot, es que ese mismo esquema de supervisión abre la puerta a un fenómeno bien documentado en psicología del trabajo: el rubber-stamping, es decir, la validación automática y acrítica del output de la máquina.
La dinámica es conocida. El profesional, abrumado por el volumen de casos o convencido de que el sistema «casi nunca falla», termina firmando sin leer. La denominada automation bias —la tendencia humana a sobrevalorar los juicios automatizados— hace el resto. El resultado práctico: la supervisión humana exigida por ley existe en el papel, pero no en la práctica.
El riesgo no es menor si se considera la escala del fenómeno. Según datos citados en el análisis, ChatGPT supera los 900 millones de usuarios activos semanales, y el uso de IA para consultas de salud mental figura como el principal caso de uso de los grandes modelos de lenguaje actuales. Millones de personas recurren a estas herramientas por su accesibilidad y bajo costo, en cualquier momento y desde cualquier lugar.
La norma de Vermont sigue el camino trazado por Illinois, Nevada y Utah, estados que ya cuentan con legislación similar. Todas comparten, según el análisis, una debilidad estructural: no especifican qué constituye una revisión «suficiente». Esa vaguedad, advierten los críticos citados por Eliot, permite que tanto los desarrolladores de IA como los terapeutas eludan responsabilidades si un consejo resulta dañino.
El año pasado, una demanda contra OpenAI por falta de salvaguardas en asesoramiento cognitivo acaparó titulares. El caso ilustra que los riesgos no son hipotéticos. Los modelos de propósito general —ChatGPT, GPT-5, Claude, Gemini, Grok, Copilot— no son equivalentes a un terapeuta humano, y los modelos especializados para salud mental siguen, en su mayoría, en fase de desarrollo y pruebas.
La lectura de Ágora Capital es directa: cuando el Estado impone un mandato de supervisión sin definir estándares medibles ni consecuencias claras por incumplimiento, no crea responsabilidad real; crea cobertura legal. La ley H.816 puede convertirse en un escudo de papel que proteja a reguladores y desarrolladores antes que a los pacientes. Capital busca reglas claras, y una norma que no especifica qué significa «revisar» no es una regla: es un trámite.
El verdadero incentivo para una supervisión rigurosa no vendrá de mandatos difusos, sino de un régimen de responsabilidad civil robusto que haga costoso el descuido. Mientras los legisladores sigan prefiriendo el titular político al diseño institucional preciso, el rubber-stamp seguirá siendo la norma, no la excepción.