VerifyAI SystemsPlataforma de Responsabilidad y Preparación de Evidencia para IA
Plataforma bilingüe de responsabilidad, preparación de evidencia y auditabilidad de la IA.
VerifyAI Systems es un prototipo de investigación en funcionamiento, diseñado para ayudar a las organizaciones a documentar, organizar, revisar y verificar la evidencia asociada con sistemas automatizados de decisión de alto riesgo.
La plataforma conecta registros de decisiones automatizadas, Revisión Humana Significativa, Rastros de Auditoría, verificación de integridad, inventarios de software y modelos, derechos de personas afectadas y Paquetes de Evidencia listos para partes interesadas en un solo flujo estructurado.
Las decisiones automatizadas de alto riesgo a menudo carecen de un registro de evidencia completo y verificable.
Las organizaciones utilizan cada vez más sistemas automatizados para apoyar decisiones en salud, seguros, empleo, crédito, vivienda, educación, beneficios públicos, servicios esenciales, adquisiciones y administración de justicia.
Los registros necesarios pueden estar fragmentados entre logs de software, documentación de modelos, archivos de proveedores, notas de revisores, inventarios de datos y sistemas de apelación.
- qué sistema y versión de modelo se utilizó;
- qué información influyó en la salida automatizada;
- si ocurrió Revisión Humana Significativa;
- si el revisor tenía autoridad para cambiar el resultado;
- si el registro permaneció completo e inalterado;
- qué dependencias de software, modelo, datos y proveedor estaban activas; o
- qué evidencia debe entregarse a una persona afectada, auditor, regulador, asegurador, corte o revisor de adquisiciones.
VerifyAI Systems se está desarrollando para abordar esta brecha de evidencia.
Un flujo de preparación de evidencia para sistemas automatizados de alto riesgo
Recopila información estructurada sobre un sistema automatizado de decisión, su propósito, entidad responsable, proveedor, etapa de despliegue, área de decisión y efecto en decisiones consecuentes.
Identifica evidencia faltante, requisitos de revisión, inquietudes sobre derechos y asuntos que requieren atención legal, técnica o de revisión humana, sin emitir una certificación de cumplimiento legal.
Documenta quién revisó una salida automatizada, qué información se consideró, si el revisor comprendió el resultado, si tenía autoridad para anularlo y qué acción final se tomó.
Crea registros a nivel de decisión y evalúa condiciones de integridad como verificado, pendiente, incompleto, alterado, cadena rota, evidencia faltante o indicador de manipulación.
Organiza información de componentes de software, modelo, proveedor, versión, fuente de datos, dependencia, licencia, limitaciones y cadena de suministro asociada al sistema automatizado.
Combina información disponible sobre sistema, decisión, revisión, integridad, software, modelo, derechos y preparación en un paquete estructurado para revisión legal, técnica, de adquisiciones, auditoría, seguros o sector público autorizada.
Registre el sistema automatizado, su propósito, organización responsable, proveedor, área de decisión, información del modelo, componentes de software y estado de despliegue.
Conecte salidas automatizadas, actividad de revisión humana, decisiones finales, marcas de tiempo, registros de respaldo, indicadores de integridad y dependencias de software o modelo.
Genere vistas apropiadas al rol, hallazgos de preparación, diagnósticos, avisos de evidencia faltante y un Paquete de Evidencia exportable.
El prototipo existe. Los métodos técnicos subyacentes aún requieren validación formal.
VerifyAI Systems no busca apoyo de investigación para crear una aplicación básica desde la etapa conceptual. La investigación propuesta de Fase I evaluaría si el prototipo existente puede operar de manera confiable a través de sistemas de IA heterogéneos y entornos operativos de alto riesgo.
El objetivo de investigación es determinar si registros operativos fragmentados pueden transformarse en una cadena de evidencia estructurada, que preserve la privacidad, sea a prueba de alteraciones y técnicamente verificable.
Diseñado para entornos donde la evidencia importa.
Cada rol debe recibir solo la información apropiada para sus responsabilidades y nivel de autorización.
Mejor evidencia puede mejorar la observabilidad y asegurabilidad del riesgo de IA.
Las organizaciones que desarrollan, adquieren, despliegan o dependen de IA pueden enfrentar exposición por decisiones automatizadas erróneas, reclamos de discriminación, errores profesionales, incidentes de privacidad, eventos de ciberseguridad, disputas de propiedad intelectual, fallas de proveedores, supervisión inadecuada, investigaciones regulatorias o fallas en la preservación de evidencia.
VerifyAI Systems no determina si existe cobertura de seguro. La cobertura depende del lenguaje aplicable de la póliza, hechos, condiciones, representaciones, exclusiones y causa de pérdida.
Prototipo de trabajo basado en navegador
VerifyAI Systems ha producido un prototipo funcional basado en navegador que establece el concepto central del producto, el flujo de trabajo, la terminología, la estructura de roles, la arquitectura de evidencia y el enfoque de diagnóstico.
- · demostraciones;
- · evaluación de flujos de trabajo;
- · investigación técnica;
- · retroalimentación de partes interesadas;
- · escenarios simulados de alto riesgo; y
- · descubrimiento temprano de clientes.
El prototipo actualmente usa almacenamiento local del navegador y no está destinado para registros confidenciales oficiales, despliegue en producción ni dependencia institucional. Se requiere más I+D para validar la tecnología en sistemas y entornos heterogéneos y desarrollar seguridad, autenticación, servicios criptográficos, interoperabilidad, acceso controlado, integraciones institucionales y arquitectura de despliegue escalable a nivel de producción.
Explore el prototipo de investigación de VerifyAI Systems
Revise el flujo de trabajo actual, las vistas basadas en roles, la estructura de evidencia, los diagnósticos de integridad y la dirección de investigación.
Aviso de Prototipo de Investigación
VerifyAI Systems es un prototipo de investigación y desarrollo. No certifica el cumplimiento legal o regulatorio, no emite hallazgos gubernamentales, no proporciona determinaciones de cobertura de seguros ni reemplaza a asesoría legal, revisión de ciberseguridad, análisis de ingeniería, auditoría independiente, revisión de adquisiciones o acción gubernamental autorizada.
El prototipo está destinado a demostración, investigación, evaluación de flujos de trabajo y evaluación de preparación. Los usuarios no deben ingresar información confidencial, sensible, clasificada, de salud protegida, personalmente identificable, de casos oficiales o de producción.
Cualquier estado de preparación, diagnóstico de integridad, advertencia, recomendación o Paquete de Evidencia generado por el prototipo es preliminar y debe ser revisado por profesionales calificados y autorizados antes de la dependencia institucional.
VerifyAI Systems es una empresa tecnológica independiente y no es una agencia gubernamental ni una autoridad de certificación oficial.