1. Propósito
Esta Política establece los principios, controles y compromisos que rigen el desarrollo, despliegue y uso de sistemas de inteligencia artificial en Qarefy. Se ha elaborado de conformidad con el Reglamento (UE) 2024/1689 ("AI Act"), las directrices éticas de la Comisión Europea sobre IA confiable, los estándares ISO/IEC 42001 (sistemas de gestión de IA) e ISO/IEC 23894 (gestión de riesgos en IA), y la Declaración de Montreal para un desarrollo responsable de la IA.
2. Principios
Centralidad del paciente
cualquier sistema de IA en Qarefy se diseña para mejorar la calidad, seguridad y accesibilidad de la atención sanitaria, nunca para sustituir la relación médico-paciente.
Supervisión humana significativa
las decisiones clínicas las toma siempre un profesional sanitario colegiado. Los sistemas de IA proponen, sugieren o informan; no deciden.
Transparencia
publicamos fichas de transparencia para cada sistema, con propósito, limitaciones, métricas, versión y mecanismos de supervisión.
Equidad y no discriminación
auditamos los datasets y los modelos para detectar y mitigar sesgos que puedan afectar a grupos protegidos.
Privacidad por diseño
minimización, seudonimización, cifrado y anonimización cuando procede. Los datos clínicos no entrenan modelos salvo previa anonimización irreversible y con posibilidad de oposición del paciente.
Seguridad y robustez
evaluación continua de la precisión, resiliencia y seguridad frente a ataques adversarios.
Responsabilidad
trazabilidad completa de cada acto asistencial en que interviene un sistema de IA, y canal de reporte de incidencias accesible al profesional y al paciente.
Sostenibilidad
medición del impacto computacional y compromiso con la reducción progresiva.
3. Gobernanza
Qarefy ha designado un AI Officer responsable del cumplimiento del AI Act, que reporta directamente al Consejo de Administración y que coordina su actuación con el DPO, el CISO y el Director Médico. El Comité de Ética en IA, compuesto por profesionales médicos, expertos en IA, representantes de pacientes y un miembro independiente, revisa cada nueva funcionalidad antes de su despliegue.
4. Ciclo de vida de los sistemas de IA
- (a) Diseño — análisis de riesgos, definición de datos y métricas de éxito.
- (b) Entrenamiento — uso de datasets clínicos anonimizados y representativos, con documentación de sesgos residuales.
- (c) Validación — pruebas técnicas, clínicas y frente a casos adversarios.
- (d) Despliegue — supervisión humana explícita, fichas de transparencia, registro en la base de datos de la UE cuando procede.
- (e) Monitorización — dashboard de métricas en tiempo real, revisiones semestrales.
- (f) Retirada — protocolo de retirada inmediata ante evidencias de riesgo significativo.
5. Reporte de incidencias
Cualquier usuario puede reportar una incidencia relacionada con un sistema de IA en /incidencias-ia. Las incidencias graves son comunicadas a las autoridades competentes en el plazo de quince (15) días conforme al artículo 73 del AI Act.
6. Revisión
Esta Política se revisa al menos una vez al año y siempre que exista un cambio normativo o tecnológico significativo. Versión: 2026.04.v1.