Humanos se lanza para hacer cumplir la autorización humana antes de que la IA actúe

Humanos se ha lanzado oficialmente y lo hace con la misión de garantizar que las decisiones automatizadas tomadas por los sistemas de IA siempre se puedan explicar, verificar y defender.

A medida que el software actúa cada vez más por sí mismo, la compañía argumenta que las organizaciones deben ser capaces de demostrar quién aprobó una acción, bajo qué condiciones y por qué, especialmente cuando esas decisiones son impugnadas internamente, por los reguladores o en los tribunales.

La startup está construyendo una infraestructura que permite a los sistemas automatizados verificar y solicitar la autorización humana antes de actuar. Cada aprobación se convierte en un mandato verificable por máquina que los sistemas pueden verificar en tiempo real. Si no existe una autorización válida, los sistemas pueden solicitar una a través de la API.

Detrás de Humanos hay un equipo de siete fundadores: Pedro Andrade, Rui Lagos, Artur Goulão, Rodrigo Sarroeira, Gonçalo Almeida, Wilson Gomes y Pedro Reis.

Humanos entra en un mercado en el que, según sus fundadores, la autorización humana permanece dispersa en correos electrónicos, PDF, registros internos y flujos de trabajo manuales que son difíciles de auditar o reconstruir cuando algo sale mal. “Cuando los sistemas de alto riesgo actúan automáticamente, las empresas deben ser capaces de rastrear cada aprobación detrás de esas decisiones”, ha asegurado Andrade a Portugal Startup News.

Human ya está en vivo en más de 350 organizaciones reguladas, incluidos hospitales, aseguradoras y fintechs, lo que les permite automatizar decisiones sensibles de manera segura a escala. Además, espera procesar “millones” de aprobaciones y verificaciones antes de fin de año a medida que amplía el acceso a su plataforma.