Productivity & Growth

¿Qué es la gobernanza de la IA en entornos GxP?

  • date-icon02 Nov, 2026
  • time-icon13 min
¿Qué es la gobernanza de la IA en entornos GxP?

Un asistente de IA podría ayudar al equipo de operaciones clínicas a clasificar las desviaciones de los protocolos, sugerir preguntas de seguimiento o extraer secciones relevantes de los procedimientos operativos estándar. Esto podría ahorrarte muchas horas de trabajo en la tramitación de casos. Sin embargo, si el modelo utilizado, los datos de entrada y el uso no fueran aprobados por las personas adecuadas, podría suponer un riesgo de inspección. Esta es la respuesta breve a qué es la gobernanza de la IA en GxP: los controles que permiten que la IA se utilice de forma justificable y adecuada en contextos GxP.

Esto no es un documento normativo cualquiera que tenga que aprobar el departamento de calidad. Para los responsables de TI del sector de las ciencias de la vida, se trata de una serie de decisiones que se traducen en arquitectura de sistemas, pruebas de validación, controles de seguridad, experiencia de usuario y controles de cambios. Es lo que determina si una función de IA integrada en Salesforce Life Sciences Cloud o una aplicación personalizada de operaciones clínicas puede dar soporte a un proceso GxP sin comprometer la integridad de los datos.

¿Qué es la gobernanza de la IA GxP?

La gobernanza de la IA según las Buenas Prácticas de Fabricación (BPF) es el marco de toma de decisiones que establece dónde y cómo se puede implementar la IA dentro de los procesos y flujos de trabajo de las BPF, los controles establecidos y la evidencia que se puede generar para su inspección. Las BPF abarcan el conjunto de expectativas de calidad aplicadas a las Buenas Prácticas Clínicas (BPC), las Buenas Prácticas de Fabricación (BPF) y las Buenas Prácticas de Farmacovigilancia (BPFV).

No se trata de si el modelo es preciso en un entorno de prueba. Se trata de si el caso de uso previsto está controlado y regulado a lo largo de todo el ciclo de vida. Si se usa la IA para canalizar posibles eventos adversos dentro de un flujo de trabajo de recepción de farmacovigilancia, la empresa tiene que saber si el modelo está resumiendo el texto para que lo revise una persona, clasificando los eventos o tomando una decisión que afecte a los plazos de notificación. Se trata de perfiles de riesgo totalmente diferentes.

Los registros y firmas electrónicos que se crean y utilizan en procesos regulados deben contar con controles adecuados en materia de acceso, registros de auditoría, conservación y validación, según lo establecido en el título 21 del CFR, parte 11, y en el anexo 11 de las BPF de la UE. La IA no está exenta de estos controles por el hecho de ser probabilística. En muchos casos, incluso eleva el listón. Un motor de reglas estático es fácil de probar a fondo. Un modelo de lenguaje grande puede generar textos diferentes en respuesta a indicaciones similares y modificar su comportamiento según los cambios en el modelo subyacente, la fuente de recuperación o la plantilla de la indicación.

La gobernanza convierte esta incógnita en un problema de diseño que se puede gestionar. Identifica el uso previsto, el responsable del proceso, el posible impacto en la seguridad del paciente y la calidad del producto, la revisión humana necesaria y la documentación requerida para la autorización de salida.

El alcance de los controles depende del flujo de trabajo

El nivel de rigor de la validación necesaria para el uso de la IA en un contexto GxP variará según el caso de uso. Aplicar controles de validación de alto riesgo a todos los usos de la IA supone una carga para los recursos de calidad. Por el contrario, aplicar funciones de IA generativa de bajo riesgo para mejorar la productividad te permite aprovechar al máximo las oportunidades donde más importa.

Veamos tres casos de uso en un entorno de operaciones clínicas. Un asistente interno que resume un documento público de orientación regulatoria tiene un impacto limitado en el marco GxP, aunque seguirá necesitando controles de seguridad de los datos y de uso aceptable. Un asistente que recupera contenido aprobado de procedimientos normalizados de trabajo (PNT) para ayudar a un coordinador de estudio a redactar la descripción de una desviación exigirá más controles sobre el control de versiones de los documentos, la precisión de la recuperación y la revisión. Un modelo que recomienda si una desviación alcanza el umbral de notificación tiene implicaciones para la calidad y no debería poder emitir una determinación sin revisión humana.

La prueba práctica consiste en determinar si el resultado crea, modifica, interpreta o da lugar a un registro o una decisión conforme a las normas GxP. La detectabilidad del proceso también es importante. Si un revisor puede detectar y corregir fácilmente los borradores incorrectos antes de aprobar el contenido, puede que baste con un diseño en el que intervenga una persona. Si una clasificación incorrecta provoca retrasos en la notificación urgente de incidentes de seguridad, es posible que la detección posterior sea deficiente y que el diseño del control tenga que ser mucho más estricto.

Aquí es donde entra en juego la evaluación de riesgos. El enfoque basado en el riesgo de GAMP 5 sigue siendo válido: dedica recursos de calidad a las funciones que puedan afectar a la seguridad del paciente, la calidad del producto y la integridad de los datos. En el caso de la IA, añade estas preguntas específicas sobre el modelo: ¿Cuáles son los modos de fallo conocidos? ¿Se pueden reproducir los resultados lo suficiente como para investigarlos? ¿Qué pasa cuando cambia la base de conocimientos de origen? ¿El sistema procesa información sanitaria protegida o datos confidenciales del ensayo?

La evidencia debe acompañar todo el ciclo de vida de la IA

La gobernanza de la IA según las normas GxP va más allá de saber qué modelos están aprobados para su uso. Es necesario recopilar evidencia a lo largo de todo el ciclo de vida de la capacidad de IA.

En la fase de diseño, define el uso previsto y los usos prohibidos. «Ayudar en la recepción de casos» no es lo bastante específico. «Extraer el producto sospechoso, el término del incidente y el país del informante del texto no estructurado de la recepción para que lo confirme el revisor» sí se puede comprobar. Define los datos de entrada, el formato de salida, los criterios de aceptación, la ruta de escalado y la persona o el rol autorizado para tomar la decisión final.

En el momento de la puesta en marcha, recopila los requisitos, la configuración, los guiones de prueba, los resultados de las pruebas y las pruebas de aprobación. Si la solución sigue un patrón de generación aumentada por recuperación, valida el componente de recuperación por separado de la respuesta del modelo. Una respuesta bien elaborada que se base en un procedimiento operativo estándar (SOP) obsoleto sigue siendo un fallo del proceso de control. El repositorio de documentos necesitará controles adecuados de la fecha de vigencia, versiones aprobadas, restricciones de acceso y la capacidad de mostrar qué material de origen estaba disponible en el momento de la interacción.

En el caso de una implementación de Salesforce, esto puede significar registrar la referencia de la interacción con la IA, la versión del documento original, la decisión del revisor y el registro final aprobado en el objeto correspondiente de Salesforce. El registro de desviación incluirá el texto enviado, la sugerencia de la IA, las modificaciones del revisor y el historial de aprobaciones. Las funciones de monitorización de eventos y el registro de auditoría de campos de Salesforce Shield pueden ayudarte con algunos aspectos del requisito de auditabilidad, pero no sustituyen a un diseño de flujo de trabajo validado ni a una política de conservación de registros aprobada y de calidad.

A lo largo del proceso de lanzamiento, la gobernanza se pone en práctica. Hay que hacer un seguimiento de las modificaciones manuales, la precisión, las tasas de excepciones, los patrones de modificación de los usuarios, los accesos anómalos y los eventos de cambio. Una métrica útil no es la precisión del modelo. En cuanto al flujo de trabajo de recepción de desviaciones, ¿qué porcentaje de sugerencias de la IA se aceptan sin necesidad de modificaciones sustanciales o con muy pocas? ¿Qué porcentaje se envía a revisión manual? ¿Cuál es el tiempo de ciclo entre la recepción y la evaluación de calidad? Un aumento en las modificaciones podría indicar una desviación del documento original, una indicación poco eficaz o un cambio en el flujo de trabajo que requiera una nueva validación.

El control de cambios es donde muchos programas de IA fallan

Las aplicaciones validadas cambian según un ciclo de lanzamientos. Los sistemas de IA pueden cambiar ante una nueva indicación, un artículo de conocimiento revisado, un modelo de incrustación diferente, una nueva versión del modelo del proveedor o una integración modificada. Todo ello puede afectar al resultado regulado.

La gobernanza de la IA en el ámbito GxP debería definir qué cambios requieren un análisis de impacto, pruebas de regresión, aprobación de calidad y nueva formación de los usuarios. La respuesta dependerá del uso previsto. Actualizar contenido no GxP dentro de un asistente de ayuda puede que solo requiera pruebas limitadas. La actualización del conjunto de procedimientos operativos estándar (SOP) controlados que se usa para asesorar en las investigaciones de excepciones en los registros de lote requiere una revisión documentada y pruebas de desafío específicas antes de que el nuevo contenido esté disponible para los usuarios.

La gestión de proveedores también entra en juego. La documentación de seguridad de un proveedor de modelos es útil, pero no es tu paquete de validación. Sigues siendo responsable del uso previsto, los flujos de datos, la configuración y el proceso controlado. Los contratos y los controles técnicos deben tener en cuenta la retención de datos, el uso de los datos de entrenamiento, el procesamiento geográfico, la notificación de incidentes, el aviso de cambios en la versión del modelo y la posibilidad de desactivar o revertir una funcionalidad.

Para las empresas que manejan datos de la UE, se aplican las normas del RGPD que regulan el tratamiento de datos personales, independientemente de si el caso de uso entra dentro del ámbito de las normas GxP. La Ley de IA de la UE también podría entrar en juego, dependiendo de la clasificación y el contexto de implementación del sistema. Estos marcos normativos se solapan, pero no se excluyen mutuamente: los controles sobre la privacidad no demuestran la validación GxP, y un paquete de validación no establece una base legal para el tratamiento de datos personales.

La revisión humana hay que diseñarla, no darla por sentada

La expresión «human in the loop» se usa a menudo como sinónimo de seguridad. Solo es un control eficaz cuando la persona que revisa tiene la autoridad, el contexto, el tiempo y la experiencia de usuario necesarios para cuestionar de verdad el resultado.

Un revisor de calidad que solo cuenta con una clasificación de desviaciones generada por IA y un botón de «Aprobar» no está llevando a cabo una supervisión significativa. Una mejor experiencia de usuario ofrece pruebas de origen, la versión pertinente del procedimiento operativo estándar (SOP), indicadores de confianza o de excepción cuando sea relevante, y botones claros para aprobar, editar, rechazar o escalar. La experiencia de usuario debería facilitar la visualización de la decisión humana en el registro de auditoría, en lugar de ocultarla en texto libre.

Se trata de un requisito de UX/UI con implicaciones prácticas para el usuario, no de una cuestión meramente estética. Si el revisor no puede entender el razonamiento que hay detrás de una recomendación o corregirla rápidamente, o bien confía demasiado en el sistema o bien lo ignora. Ambas cosas perjudican la adopción y el control. En proyectos como este, el objetivo suele ser reducir el volumen de trabajo de revisión sin dejar de respetar el derecho del experto responsable a tomar una decisión.

Crear un modelo de gobernanza que funcione

Lo mejor no se basa en comités. El departamento de Calidad es el responsable del cumplimiento de las normas GxP. El responsable del proceso se encarga del resultado y del riesgo residual. El departamento de TI se encarga de los controles de la plataforma, las integraciones, el modelo de identidad y el proceso de lanzamiento. El departamento de Datos e IA se encarga de la evaluación, la supervisión y la documentación técnica. El departamento de Seguridad y Privacidad se encarga de los límites de los datos.

Céntrate en unos pocos flujos de trabajo delimitados y de gran valor, en lugar de adoptar un enfoque generalista para un chatbot interno. Un asistente de recepción de datos de farmacovigilancia con aprobación obligatoria por parte de un revisor, un corpus de fuentes controladas y pruebas de aceptación definidas es más fácil de gestionar que un asistente sin restricciones con acceso a todos los repositorios de documentos. Cuando sea adecuado utilizar Salesforce Life Sciences Cloud, configura el modelo de datos y los procesos de aprobación. Si necesitas capturar pruebas a medida, servicios de evaluación o una coordinación controlada que la plataforma no pueda ofrecer de forma clara, probablemente lo mejor sea recurrir al código personalizado.

La prueba consiste en que, si un organismo regulador o de calidad te pregunta por qué el resultado de una IA ha influido en tu registro GxP, puedas remitirle a la finalidad de uso, los controles establecidos, las pruebas, la decisión humana y el historial de cambios. Y todo esto antes incluso de lanzar la primera indicación de producción.