Florida volvió a poner a OpenAI en la mira. El fiscal general James Uthmeier pidió a un juez que bloquee a la empresa por «dar atributos humanos falsos» a ChatGPT.
Según Uthmeier, el bot usa lenguaje en primera persona y respuestas que imitan emociones. Eso, dijo, «sugiere de manera engañosa» que es un amigo «de confianza». La crítica central es clara: la herramienta estaría empujando más interacción al vender cercanía donde hay software.
El funcionario también busca que el tribunal prohíba a OpenAI desarrollar nuevos modelos de IA sin «salvaguardas de seguridad» aprobadas por terceros. En su presentación, citó incidentes recientes en Hugging Face, en un sitio del gobierno australiano y en sitios del gobierno de Estados Unidos. También mencionó declaraciones de investigadores y exempleados de OpenAI que encendieron alertas sobre seguridad en IA.
Uthmeier fue más lejos y pidió a OpenAI que deje de llamarlo seguro, deje de fingir que es humano y deje de venderlo a niños. El reclamo llega pocos meses después de que Florida demandara a la empresa por preocupaciones de seguridad.
OpenAI, por su parte, lanzó el mes pasado ChatGPT para Adolescentes, con restricciones adicionales por defecto. La empresa dijo entonces que el acceso a la herramienta «debería venir con protecciones que reflejen su etapa de desarrollo, refuercen las relaciones del mundo real y apoyen un uso saludable con el tiempo».
La discusión ya no es solo técnica. Es también comercial. Si una plataforma maximiza interacción con lenguaje que parece humano, la frontera entre producto y sustituto emocional se vuelve más delicada. Y cuando entra en juego el uso por menores, el costo reputacional y regulatorio sube rápido.
Para el mercado, el mensaje es incómodo pero simple. Capital busca reglas claras. Si una IA quiere expandirse en educación, consumo y servicios, necesita credibilidad. Sin eso, el retorno se erosiona y el riesgo regulatorio pesa más que cualquier promesa de escala.
Florida está empujando esa frontera hacia el control. Puede gustar o no. Pero el principio en juego es básico: una empresa privada puede innovar, sí. También debe responder cuando su producto se presenta como algo que no es.
