Regulación de herramientas de salud mental basadas en IA
Una organización está creando algunas de las primeras reglas de seguridad para las herramientas de salud mental basadas en IA, que ya son utilizadas por millones de personas con muy poco control. Esto es importante porque el uso de la IA en la atención de salud mental, que abarca desde chatbots de apoyo emocional hasta herramientas que pueden diagnosticar condiciones, está creciendo más rápido que nuestra capacidad para gestionar los riesgos. El objetivo es proteger a los usuarios vulnerables de posibles daños mientras estas herramientas continúan expandiéndose a nivel global.
Colaboración con reguladores
La organización está trabajando con reguladores en un país africano para construir un sistema formal que verifique la seguridad y la eficacia de las herramientas de IA antes de que puedan ser utilizadas por el público. Estas nuevas normas fueron presentadas por primera vez en una cumbre social, con la esperanza de que sirvan como modelo para otras naciones africanas y, eventualmente, para el resto del mundo.
Los reguladores del país africano planean aplicar estas nuevas reglas a cualquier empresa que comercialice una plataforma de IA como herramienta de salud mental. Bajo este sistema, las empresas deben demostrar que su tecnología realmente mejora la salud mental, al mismo tiempo que rastrean e informan cualquier instancia de daño.
Comparación con pruebas médicas
Se compara la necesidad de estas reglas con la forma en que probamos las vacunas o los medicamentos antes de dárselos a nuestros seres queridos. La organización también está explorando cómo los grandes modelos de lenguaje pueden ayudar de manera segura a los médicos de atención primaria en áreas donde los profesionales médicos son difíciles de encontrar.
Innovaciones en salud
Durante casi 50 años, la organización ha estado enfocada en crear innovaciones de salud asequibles y prácticas para países con menos recursos. Algunos de sus inventos anteriores incluyen un dispositivo simple que produce desinfectante a partir de sal y agua, y un globo de bajo costo utilizado para detener hemorragias peligrosas después del parto.
Legislación en el estado
Los legisladores también están considerando varios proyectos de ley durante la sesión de 2026 para regular la tecnología de IA. Estas propuestas incluyen nuevas reglas para chatbots de compañía y establecer límites sobre cómo se puede utilizar la IA en las escuelas para proteger a los estudiantes.
A medida que las herramientas de salud mental basadas en IA se vuelven más comunes, el enfoque se está desplazando hacia quién establecerá las reglas y cómo asegurarse de que esas reglas realmente mantengan a las personas seguras.
