Este artículo documenta las políticas internas de seguridad que rigen cómo se construye y opera Eddy AI, y cómo Document360 se alinea con los estándares de seguridad OWASP para aplicaciones de IA y LLM.
Políticas de seguridad
Document360 mantiene un conjunto de políticas formales que se aplican a todos los sistemas, incluida Eddy AI. A continuación se muestra un resumen de cada uno.
Política de Criptografía
Titular de la póliza: CEO
Fecha de Vigencia: 1 de marzo de 2024
Alcance: Todos los sistemas Document360 que almacenan o transmiten datos confidenciales.
Propósito: Asegúrate de que la criptografía se utilice correctamente para proteger la confidencialidad, integridad y autenticidad de la información.
Requisitos clave:
- Los estándares de cifrado siguen el NIST SP 800-57.
- Cifrado simétrico de bits AES-256 para datos en reposo (periodo clave máximo: 1 año).
- TLS 1.3 para todas las llamadas API de OpenAI; fijación de certificados aplicada en los endpoints de OpenAI.
- Se requiere TLS mutuo para despliegues de alta sensibilidad.
- Las incrustaciones de texto en MongoDB utilizan cifrado a nivel de campo.
- Todas las indicaciones de usuario cifradas antes de almacenarse; Respuestas de la IA cifradas en tránsito y en reposo.
- Contraseñas hasheadas usando Bcrypt, PBKDF2, scrypt o Argon2 (clave de 256 bits, estiramiento de 10K, con sal y pimienta únicas).
- Azure Key Vault se usaba para gestionar y proteger todos los secretos y claves API.
- Las excepciones requieren la aprobación y documentación del CEO.
- Infracciones reportadas al CEO; puede conllevar acciones disciplinarias, incluyendo el despido.
Plan de Respuesta a Incidentes
Titular de la póliza: Propietario de producto
Fecha de Vigencia: 1 de marzo de 2024
Propósito: Proporcionar un plan estructurado para gestionar incidentes de seguridad de la información en Document360, incluidos incidentes específicos de IA.
Definiciones:
- Evento de seguridad: Un fenómeno observable relevante para la seguridad de los datos.
- Incidente de seguridad: Un evento que resulta en una pérdida o daño real en la seguridad de los datos.
Niveles de gravedad del incidente:
| Nivel | Tipo | Ejemplos |
|---|---|---|
| S1 – Crítica | Incidentes de IA | Sesgo sistemático que afecta a grupos protegidos; jailbreak exitoso en producción (100+ usuarios); PII expuesta mediante respuestas de IA; Tasa de alucinaciones >5% sostenida durante 1+ hora |
| S2 – Alto | Incidentes de IA | Se detectó un bypass de API de moderación; inyección de prompt que afecta a <100 usuarios; deriva del modelo >10% de degradación de precisión; Tasa de fallo de citas >15% |
| T3 – Medio | Incidentes de IA | Respuesta única de IA sin fuente; Fuga al estilo DAN bloqueada; Latencia de respuesta >10 segundos |
Proceso de respuesta: Triaje → Investigación → Contención → Erradicación → Recuperación → Endurecimiento → Lecciones Aprendidas
Reglas clave:
- Los responsables de ingeniería lideran la respuesta a incidentes, con una sala de guerra designada para la coordinación.
- Solo el Product Owner puede declarar una infracción.
- La notificación de incumplimiento cumple los requisitos regulatorios (RGPD, etc.).
- Se requiere un análisis de causa raíz para todos los incidentes S1, revisado por el Director de Ingeniería.
- Informe: Los empleados informan inmediatamente de incidentes sospechosos a través de canales definidos; Todos los incidentes deben ser documentados.
Roles y responsabilidades en seguridad de la información
Titular de la póliza: CEO
Fecha de Vigencia: 1 de marzo de 2024
Alcance: Toda la infraestructura de Document360, empleados, contratistas, socios y afiliados involucrados en la seguridad de la información.
| Función | Responsabilidades |
|---|---|
| Liderazgo Ejecutivo | Aprueba el gasto en garantía; supervisa la gestión de riesgos; garantiza el cumplimiento de GDPR, CCPA, SOC 2, ISO 27001; gestiona los contratos con proveedores |
| Director de Ingeniería | Supervisa la seguridad en el desarrollo de software; realiza evaluaciones de riesgos informáticos; Monitores controles |
| Vicepresidente de Atención al Cliente | Gestiona herramientas de seguridad en entornos de clientes; Aplica las políticas de retención y eliminación de datos |
| Propietarios del sistema | Mantener la confidencialidad, integridad y disponibilidad de sus sistemas; Aprobar acceso y solicitudes de cambio |
| Empleados y contratistas | Sigue las políticas; identificar riesgos; Reportar incidentes |
| Director de Personas | Gestiona las verificaciones de antecedentes, el Código de Conducta y la formación en seguridad |
El incumplimiento puede conllevar acciones disciplinarias, incluida la despido.
Política de Desarrollo Seguro
Titular de la póliza: CEO
Fecha de Vigencia: 1 de marzo de 2024
Alcance: Todas las aplicaciones Document360 críticas para el negocio que procesan, almacenan o transmiten datos confidenciales.
Principios de seguridad por diseño aplicados:
- Minimizar la superficie de ataque
- Valores por defecto seguros
- Privilegio mínimo
- Defensa en profundidad
- Fallar de forma segura
- Evita la seguridad por la oscuridad
- Mantén la seguridad sencilla
Principios de privacidad desde el diseño aplicados:
- Enfoque proactivo y preventivo
- Privacidad como configuración predeterminada
- Privacidad integrada en el diseño
- Funcionalidad completa sin comprometer la privacidad
- Seguridad de extremo a extremo y protección completa del ciclo de vida
Controles adicionales:
- Los entornos de desarrollo, puesta en escena y producción están estrictamente separados.
- Debe completarse una Lista de Verificación de Liberación antes de desplegar el código.
- Los datos de prueba no deben utilizar datos reales confidenciales del cliente sin permiso explícito.
- Todos los cambios requieren individuos separados para su desarrollo, pruebas y despliegue.
- Todo el software está controlado por versiones con acceso basado en roles.
Política de Código de Conducta
Titular de la póliza: CEO
Fecha de Vigencia: 1 de marzo de 2024
Establece un entorno laboral seguro e inclusivo. Se espera que todo el personal actúe con respeto y colaboración. El acoso, la violencia, la discriminación y la conducta inapropiada están estrictamente prohibidos. Las infracciones conllevan acciones correctivas inmediatas.
Política de Control de Acceso
Titular de la póliza: Fecha de entrada en vigor del CEO: 1 de marzo de 2024 Alcance: Todos los sistemas Document360 que gestionan datos confidenciales.
Controles clave:
- Acceso concedido según el puesto laboral y la necesidad documentada del negocio.
- Se requiere autenticación multifactor (MFA) para todo acceso privilegiado.
- Se prohíben los identificadores administrativos genéricos.
- Permisos de acceso con límite temporal para limitar la exposición.
- Todos los inicios de sesión y actividades privilegiados se registran y auditan.
- Se realizan revisiones regulares de acceso de usuario.
- Gestión de contraseñas: se aplican procedimientos seguros de inicio de sesión.
- Infracciones reportadas y sujetas a aplicación.
Política de Gestión de Datos
Titular de la póliza: Fecha de entrada en vigor del CEO: 1 de marzo de 2024
Clasificación de datos:
| Clase | Descripción | Ejemplos |
|---|---|---|
| Confidencial | Máxima protección; Acceso restringido | Datos de clientes, PII, finanzas, informes técnicos |
| Restringido | Protección exhaustiva; Por defecto para todos los datos internos | Políticas internas, documentos legales, contratos, correos electrónicos |
| Público | Sin controles especiales | Materiales de marketing, descripciones de productos |
Gestión de datos confidenciales:
- Acceso restringido; Cifrado en reposo y en tránsito.
- No se almacena en dispositivos personales ni en medios extraíbles.
- Se requiere almacenamiento y eliminación seguros.
Retención de datos:
- Se retiene el tiempo que sea necesario para necesidades empresariales, regulatorias o contractuales.
- La información personal identificada fue eliminada o desidentificada cuando ya no se necesitaba.
- Revisión anual de la gestión sobre los requisitos de retención.
- Los datos legales retienen según las instrucciones del asesor legal.
Infracciones reportadas al CEO; puede resultar en el despido.
Política de Seguridad Operativa
Titular de la póliza: Fecha de entrada en vigor del CEO: 1 de marzo de 2024 Alcance: Todos los sistemas críticos de Document360 y terceros con acceso a la red.
Los controles clave incluyen:
- Gestión del cambio: Todos los cambios significativos se documentan, prueban y aprueban antes de su despliegue; Los cambios de emergencia requieren autorización retroactiva.
- Gestión de capacidades: Recursos monitorizados y ajustados; la capacidad humana se incluyó en las evaluaciones anuales de riesgos.
- Prevención de fugas de datos: herramientas DLP aplicadas basándose en la evaluación de riesgos; Usuarios entrenados en el manejo de datos sensibles.
- Filtrado web: DNS y bloqueo de IP para sitios arriesgados o maliciosos.
- Separación del entorno: desarrollo, puesta en escena y producción estrictamente segregados; No hay datos de producción en desarrollo/prueba sin aprobación.
- Protección contra malware: Detección de antimalware y amenazas en todos los endpoints y correo electrónico.
- Suplentes: Diseñado e implementado para cumplir con los SLA de recuperación de datos de los clientes.
- Registro y monitorización: Detección activa y respuesta a incidentes de seguridad.
- Gestión de vulnerabilidades: Identificación, evaluación y remediación oportunas de vulnerabilidades técnicas.
- Enmascaramiento de datos: PII y datos sensibles enmascarados según la evaluación de riesgos.
Política de Retención de Datos
Titular de la póliza: Fecha de entrada en vigor del CEO: 1 de marzo de 2024 Alcance: Todos los clientes de Document360, tanto proyectos de base de conocimiento pública como privada.
Qué datos se recopilan:
- Sitios públicos: No se recogen datos a nivel de usuario.
- Proyectos privados: Identidad del usuario, marcas de tiempo y otra información disponible en Document360.
Cómo se utiliza: Document360 almacena todos los prompts introducidos en el chatbot de IA de Eddy para:
- Análisis temático (agrupación de preguntas usando algoritmos internos y APIs de OpenAI)
- Análisis de citas (identificación de los artículos más citados)
- Métricas (preguntas respondidas vs. sin respuesta, métricas de profundidad)
Retención y eliminación:
- Los datos se conservan dentro de tu proyecto Document360.
- Los datos se eliminan permanentemente cuando se elimina el proyecto de la base de conocimiento.
- Los clientes pueden solicitar la eliminación en cualquier momento durante el periodo del contrato.
- Esta política no es personalizable por el cliente.
Política de Evaluación y Gestión de Riesgos en IA
Titular de la póliza: Director Senior – Ciencia de Datos Fecha de Vigencia: 1 de enero de 2025
Propósito: Establecer un enfoque sistemático para identificar, evaluar y gestionar riesgos a lo largo de todo el ciclo de vida de Eddy AI.
Componentes clave:
- Evaluación inicial de impacto de IA: Obligatorio antes de cualquier actividad de desarrollo. Cubre los casos de uso previstos, posibles daños, probabilidad e impacto del riesgo, identificación de partes interesadas y estrategias de mitigación.
- Monitorización continua de riesgos: Revisiones trimestrales; evaluaciones anuales completas.
- Umbrales de tolerancia al riesgo:
- Inaceptable → Despliegue prohibido
- Se requieren controles mejorados de alta →
- Controles medios → estándar aplicados
- Solo monitorización de → baja
- Registro de riesgos: Documentación centralizada de todos los riesgos identificados, medidas de mitigación, riesgos residuales y propietarios.
Política de Gestión de Equidad y Sesgos de IA
Titular de la póliza: Director Senior – Ciencia de Datos Fecha de Vigencia: 1 de enero de 2025
Propósito: Identificar, midir, mitigar y monitorizar los sesgos en Eddy AI para garantizar resultados justos y equitativos para todos los usuarios.
Tipos de sesgo abordados:
| Tipo | Fuente |
|---|---|
| Sesgo sistémico | Se origina en LLMs de terceros |
| Sesgo computacional/estadístico | Elecciones algorítmicas de diseño o métodos de muestreo de datos |
| Sesgo humano-cognitivo | Suposiciones humanas introducidas durante el desarrollo |
Requisitos de prueba:
Antes del despliegue:
- Análisis de representatividad de contenido (equilibrio temático, profundidad, diversidad)
- Pruebas de estereotipos (la IA debe negarse a reforzar los estereotipos relacionados con características protegidas)
- Pruebas de equidad lingüística para bases de conocimiento multilingües
Después del despliegue:
- Mensual: Análisis de preguntas sin respuesta por tema o grupo de usuarios
- Trimestral: auditoría de sesgo total utilizando corpus de pruebas actualizado
- Anualmente: Revisión independiente de sesgos externos e informe publicado de transparencia
OWASP y mejores prácticas de seguridad
El Proyecto de Seguridad de Aplicaciones Abiertas a Todo el Mundo (OWASP) es una organización sin ánimo de lucro reconocida a nivel mundial centrada en la seguridad del software. Publica las listas "Top 10", las vulnerabilidades de seguridad más críticas en diversos dominios, incluyendo aplicaciones web y sistemas de IA/LLM.
Las 10 principales amenazas de OWASP para aplicaciones LLM
| Amenaza | Qué significa |
|---|---|
| Inyección rápida | Entradas maliciosas que intentan manipular o secuestrar el comportamiento del LLM |
| Manejo inseguro de la salida | Fallo en la limpieza de las salidas de los LLM, creando vulnerabilidades posteriores |
| Envenenamiento de datos de entrenamiento | Corromper los datos de entrenamiento para sabotear o controlar el comportamiento del modelo |
| Modelo de denegación de servicio | Sobrecarga de recursos LLM para causar inactividad o rendimiento degradado |
| Vulnerabilidades en la cadena de suministro | Riesgos derivados de conjuntos de datos, modelos o plugins de terceros |
| Divulgación de información sensible | Filtración no intencionada de datos confidenciales o personales en los resultados |
| Diseño de plugins inseguros | Plugins sin validación adecuada ni controles de acceso |
| Agencia excesiva | Empoderar en exceso a los LLMs para que tomen acciones autónomas |
| Exceso de confianza (desinformación) | Confianza ciega en las salidas de los LLM sin validación humana |
| Robo de modelos | Replicación o extracción no autorizada de modelos propietarios |
Cómo la IA Eddy aborda las principales amenazas de OWASP
LLM01: Inyección rápida
- Todas las entradas del usuario se validan antes del procesamiento.
- El contexto está aislado de las indicaciones del sistema.
- Las instrucciones del sistema se endurecen frente a intentos de inyección.
- Eddy AI solo genera respuestas a partir del contenido de tu base de conocimiento.
- API de moderación usada para detectar y señalar avisos maliciosos.
LLM04: Envenenamiento de Datos y Modelos (Embeddings)
- Document360 no posee ni entrena su propio LLM.
- Las incrustaciones se crean usando APIs de OpenAI; el DPA con OpenAI incluye protecciones contra el envenenamiento de datos y modelos.
LLM05: Manejo incorrecto de la salida
- La llamada a herramientas no se utiliza en la arquitectura de Eddy AI, lo que reduce la superficie de ataque de manejo de salida.
- Todos los datos almacenados de forma segura en MongoDB según las prácticas SOC 2 y GDPR.
- Cifrado de última generación aplicado a datos en reposo y en tránsito.
LLM08: Debilidades en vectores y incrustaciones
- Los embeddings se crean exclusivamente a partir del contenido de tu base de conocimientos.
- Las fuentes externas no pueden manipular ni envenenar incrustaciones.
- Cuando se actualiza el contenido de la base de conocimiento, las incrustaciones se actualizan en consecuencia.
LLM09: Desinformación
- Las instrucciones estrictas del sistema impiden que se genere información falsa.
- Si el LLM no puede ofrecer una respuesta segura, responde con "No lo sé."
- GPT-4.1 Mini se utiliza como modelo principal — seleccionado por su menor tasa de alucinaciones.
Supervisión y Gobernanza Continua
Para gestionar eficazmente estos riesgos, Ask Eddy emplea las siguientes estructuras de gobernanza y supervisión:
| Control | Descripción |
|---|---|
| Detección automática de amenazas | Monitorización en tiempo real que detecta patrones de entrada inusuales o comportamientos sospechosos del modelo |
| Auditorías | Registros completos de todas las interacciones de entrada-salida para análisis forense y cumplimiento |
| Protocolos de Respuesta a Incidentes | Flujos de trabajo definidos para una contención, evaluación y remediación rápidas |
| Alineación de cumplimiento | Auditorías y actualizaciones regulares alineadas con SOC 2 y GDPR |
Compromiso de Document360 con las mejores prácticas de OWASP
Document360 integra activamente los principios de OWASP en toda su plataforma:
- Desarrollo seguro: Las prácticas seguras de codificación y validación de entradas, alineadas con las directrices de OWASP, están integradas en el ciclo de vida del desarrollo.
- Mitigación común de vulnerabilidades: Los fallos de inyección, las referencias directas inseguras a objetos y otros riesgos Top 10 de OWASP se mitigan mediante la arquitectura de plataforma.
- Gestión de riesgos específica de IA: El marco LLM Top 10 de OWASP se aplicaba a todas las funciones impulsadas por IA, incluida Eddy AI.
- Seguridad de las API: Tokens autenticados usados para todos los accesos a la API, consistentes con los controles recomendados por OWASP.
- Infraestructuras: Alojado en Microsoft Azure con defensa DDoS, almacenamiento de datos cifrados, cumplimiento SOC 2 Tipo II y GDPR, y monitorización continua alineada con las recomendaciones de Registro y Monitorización de Seguridad de OWASP.
Descubre más sobre OWASP y cómo la estrategia de seguridad de Document360 se alinea con las mejores prácticas
- Sitio oficial de la OWASP: https://owasp.org
- Proyecto Top 10 de OWASP: https://www.owasptopten.org
- Resumen de seguridad de Document360: https://docs.document360.com/docs/security
Preguntas frecuentes
¿Cómo asegura Document360 que mis datos no sean accedidos ni filtrados a otros clientes? ¿Qué garantía de seguridad está aprobada?
Document360 cumple con SOC II y cumple con las mejores prácticas de ingeniería estándar de la industria para garantizar el aislamiento y la protección de datos. Se implementan medidas de seguridad robustas para evitar accesos no autorizados, asegurando que tus datos permanezcan seguros e inaccesibles para otros clientes. Para más detalles, consulte nuestras prácticas de seguridad.
¿Cómo garantiza Document360 que no se ingieran datos de clientes no dirigidos?
Document360 cumple estrictamente con el RGPD y la Ley de IA de la UE. Nuestros procesos internos y prácticas de manejo de datos están diseñados para alinearse con todos los requisitos legales y de cumplimiento pertinentes, asegurando que solo se procesen los elementos de datos previstos y autorizados. Los datos de clientes no dirigidos quedan explícitamente excluidos de la ingestión.
¿Qué controles existen para detectar y prevenir errores?
Registramos todas las salidas y respuestas generadas por Eddy AI. Además, estamos en proceso de integrar herramientas de observabilidad de LLM para mejorar las capacidades de monitorización y prevención de errores.
¿Cómo se asegura de que los datos sensibles o confidenciales no se expongan a otros clientes?
Tenemos un acuerdo de confidencialidad firmado con OpenAI que establece que los datos no se usarán para entrenamiento ni se compartirán con otros. Cumplimos con SOC2 Tipo II y GDPR. Los datos compartidos con la IA se limitan a los permisos de acceso individuales del usuario y no a todo el proyecto.
¿Cómo se mantiene la confidencialidad de mis datos y hay algún revisor humano involucrado en su procesamiento?
Todos los datos del proyecto se cifran en reposo, y todos los datos enviados al modelo de IA se cifran en tránsito. Usamos cifrado AES de 256 bits para datos en reposo y HTTPS con TLS 1.2 para datos en tránsito. Ningún revisor humano lee, anota ni procesa tus datos, y no formamos nuestros propios LLMs.
¿Se anonimizan los datos antes de ser procesados por los modelos de IA?
Sí, ejecutamos procesos internos para detectar cualquier información personal identificable (PII). Si se detecta información personal, se enmascara y se reemplaza por marcadores de posición antes de enviar los datos a cualquier modelo de terceros.