Este artigo documenta as políticas internas de segurança que regem como a IA Eddy é construída e operada, e como o Document360 está alinhado com os padrões de segurança OWASP para aplicações de IA e LLM.
Políticas de Segurança
O Document360 mantém um conjunto de políticas formais que se aplicam a todos os sistemas, incluindo a Eddy AI. Abaixo está um resumo de cada um.
Política de Criptografia
Proprietário da Apólice: CEO
Data de Vigência: 1º de março de 2024
Escopo: Todos os sistemas Document360 que armazenam ou transmitem dados confidenciais.
Propósito: Garanta que a criptografia seja usada corretamente para proteger a confidencialidade, integridade e autenticidade das informações.
Principais requisitos:
- Os padrões de criptografia seguem o NIST SP 800-57.
- Criptografia simétrica de bits AES-256 para dados em repouso (período máximo de chave: 1 ano).
- TLS 1.3 para todas as chamadas API da OpenAI; fixação de certificados aplicada nos endpoints OpenAI.
- TLS mútuo é necessário para implantações de alta sensibilidade.
- Embeddings de texto no MongoDB usam criptografia em nível de campo.
- Todos os prompts do usuário criptografados antes do armazenamento; Respostas de IA criptografadas em trânsito e em repouso.
- Senhas hashadas usando Bcrypt, PBKDF2, scrypt ou Argon2 (chave de 256 bits, 10K stretch, com sal e pimenta únicos).
- Azure Key Vault era usado para gerenciar e proteger todos os segredos e chaves de API.
- Exceções exigem aprovação e documentação do CEO.
- Violações reportadas ao CEO; pode resultar em ação disciplinar, incluindo demissão.
Plano de Resposta a Incidentes
Proprietário da Apólice: Product Owner
Data de Vigência: 1º de março de 2024
Propósito: Forneça um plano estruturado para gerenciar incidentes de segurança da informação em todo o Document360, incluindo incidentes específicos de IA.
Definições:
- Evento de segurança: Um acontecimento observável relevante para a segurança de dados.
- Incidente de segurança: Um evento que resulta em perda ou dano real à segurança dos dados.
Níveis de gravidade dos incidentes:
| Nível | Tipo | Exemplos |
|---|---|---|
| S1 – Crítico | Incidentes de IA | Viés sistemático afetando grupos protegidos; jailbreak bem-sucedido em produção (100+ usuários); PII expostas por respostas de IA; Taxa de alucinação >5% sustentada por 1+ hora |
| S2 – Alto | Incidentes de IA | Bypass de API de moderação detectado; injeção rápida afetando <100 usuários; deriva do modelo >degradação de 10% de precisão; Taxa de falha nas citações >15% |
| S3 – Médio | Incidentes de IA | Resposta única de IA sem fonte; Fuga ao estilo DAN bloqueada; Latência de resposta >10 segundos |
Processo de resposta: Triagem → Investigação → Contenção → Erradicação → Recuperação → Endurecimento → Lições Aprendidas
Regras-chave:
- Gerentes de engenharia lideram a resposta a incidentes, com uma Sala de Guerra designada para coordenação.
- Somente o Product Owner pode declarar uma violação.
- A notificação de violação segue os requisitos regulatórios (GDPR, etc.).
- A análise da causa raiz é necessária para todos os incidentes S1, revisada pelo Diretor de Engenharia.
- Relatório: Funcionários relatam incidentes suspeitos imediatamente por canais definidos; Todos os incidentes devem ser documentados.
Papéis e Responsabilidades em Segurança da Informação
Proprietário da Apólice: CEO
Data de Vigência: 1º de março de 2024
Escopo: Toda a infraestrutura do Document360, funcionários, contratados, parceiros e afiliados envolvidos em segurança da informação.
| Função | Responsabilidades |
|---|---|
| Liderança Executiva | Aprova o gasto com segurança; supervisiona a gestão de riscos; garante a conformidade com GDPR, CCPA, SOC 2, ISO 27001; Gerencia contratos com fornecedores |
| Diretor de Engenharia | Supervisiona a segurança no desenvolvimento de software; realiza avaliações de risco de TI; Monitors controles |
| VP de Suporte ao Cliente | Gerencia ferramentas de segurança em ambientes de clientes; Aplica políticas de retenção e exclusão de dados |
| Proprietários do Sistema | Manter a confidencialidade, integridade e disponibilidade de seus sistemas; Aprovar acesso e solicitar de alteração |
| Funcionários e Contratados | Siga as políticas; identificar riscos; Relate incidentes |
| Diretor de Pessoas | Gerencia verificações de antecedentes, Código de Conduta e treinamento em segurança |
O descumprimento pode resultar em ação disciplinar, incluindo demissão.
Política de Desenvolvimento Seguro
Proprietário da Apólice: CEO
Data de Vigência: 1º de março de 2024
Escopo: Todas as aplicações Document360 críticas para o negócio que processam, armazenam ou transmitem dados confidenciais.
Princípios de segurança por design aplicados:
- Minimizar a superfície de ataque
- Padrões seguros
- Menor privilégio
- Defesa em profundidade
- Falhe com segurança
- Evite segurança por meio do anonimato
- Mantenha a segurança simples
Princípios de privacidade desde o design aplicados:
- Abordagem proativa e preventiva
- Privacidade como configuração padrão
- Privacidade embutida no design
- Funcionalidade total sem comprometer a privacidade
- Segurança de ponta a ponta e proteção total do ciclo de vida
Controles adicionais:
- Ambientes de desenvolvimento, staging e produção são estritamente separados.
- Uma Lista de Verificação de Lançamento deve ser feita antes de implantar o código.
- Os dados de teste não devem usar dados confidenciais reais do cliente sem permissão explícita.
- Todas as mudanças exigem indivíduos separados para desenvolvimento, teste e implantação.
- Todo o software é controlado por versões com acesso baseado em funções.
Política do Código de Conduta
Proprietário da Apólice: CEO
Data de Vigência: 1º de março de 2024
Estabelece um ambiente de trabalho seguro e inclusivo. Todos os funcionários devem agir com respeito e colaboração. Assédio, violência, discriminação e conduta inadequada são estritamente proibidos. Violações resultam em ação corretiva imediata.
Política de Controle de Acesso
Proprietário da Apólice: Data de Vigência do CEO: 1º de março de 2024 Escopo: Todos os sistemas Document360 que lidam com dados confidenciais.
Controles-chave:
- Acesso concedido com base no cargo e necessidade documentada do negócio.
- Autenticação multifator (MFA) necessária para todo acesso privilegiado.
- IDs administrativos genéricos são proibidos.
- Permissões de acesso com prazo limitado para limitar a exposição.
- Todos os logins e atividades privilegiados são registrados e auditados.
- Revisões regulares de acesso de usuários realizadas.
- Gerenciamento de senhas: procedimentos seguros de login aplicados.
- Violações reportadas e sujeitas à aplicação.
Política de Gestão de Dados
Proprietário da Apólice: Data de Vigência do CEO: 1º de março de 2024
Classificação dos dados:
| Classe | Descrição | Exemplos |
|---|---|---|
| Confidencial | Máxima proteção; Acesso restrito | Dados de clientes, PII, contas financeiras, relatórios técnicos |
| Restrito | Proteção completa; padrão para todos os dados internos | Políticas internas, documentos legais, contratos, e-mails |
| Público | Sem controles especiais | Materiais de marketing, descrições de produtos |
Tratamento confidencial de dados:
- Acesso restrito; criptografado em repouso e em trânsito.
- Não armazenado em dispositivos pessoais ou mídias removíveis.
- Armazenamento e descarte seguros são necessários.
Retenção de dados:
- Mantido pelo tempo necessário para necessidades comerciais, regulatórias ou contratuais.
- PII excluídas ou desidentificadas quando não são mais necessárias.
- Revisão anual da gestão dos requisitos de retenção.
- Dados legais retêm conforme as instruções do advogado.
Violações reportadas ao CEO; pode resultar em demissão.
Política de Segurança Operacional
Proprietário da Apólice: Data de Vigência do CEO: 1º de março de 2024 Escopo: Todos os sistemas críticos do Document360 e terceiros com acesso à rede.
Os controles chave incluem:
- Gestão de mudanças: Todas as mudanças significativas são documentadas, testadas e aprovadas antes da implantação; Mudanças de emergência exigem autorização retroativa.
- Gestão de capacidade: Recursos monitorados e ajustados; Capacidade humana incluída nas avaliações anuais de risco.
- Prevenção de vazamento de dados: Ferramentas DLP aplicadas com base na avaliação de risco; usuários treinados no manuseio de dados sensíveis.
- Filtragem web: DNS e bloqueio de IP para sites arriscados ou maliciosos.
- Separação do ambiente: Desenvolvimento, encenação e produção estritamente segregados; Nenhum dado de produção em desenvolvimento/teste sem aprovação.
- Proteção contra malware: Antimalware e detecção de ameaças em todos os endpoints e e-mails.
- Reservas: Projetado e implementado para atender aos SLAs de recuperação de dados do cliente.
- Registro e monitoramento: Detecção ativa e resposta a incidentes de segurança.
- Gerenciamento de vulnerabilidades: Identificação, avaliação e remediação oportunas de vulnerabilidades técnicas.
- Máscara de dados: PII e dados sensíveis mascarados com base na avaliação de risco.
Política de Retenção de Dados
Proprietário da Apólice: Data de Vigência do CEO: 1º de março de 2024 Escopo: Todos os clientes do Document360, tanto projetos de base de conhecimento pública quanto privada.
Quais dados são coletados:
- Sites públicos: Não são coletados dados em nível de usuário.
- Projetos privados: Identidade do usuário, carimbos de data e outras informações disponíveis no Document360.
Como é usado: O Document360 armazena todos os prompts inseridos no chatbot Eddy AI para:
- Análise temática (clustering de perguntas usando algoritmos internos e APIs OpenAI)
- Análise de citações (identificando os artigos mais citados)
- Métricas (perguntas respondidas vs. não respondidas, métricas de profundidade)
Retenção e eliminação:
- Os dados são mantidos dentro do seu projeto Document360.
- Os dados são deletados permanentemente quando o projeto da base de conhecimento é excluído.
- Os clientes podem solicitar a exclusão a qualquer momento durante o período do contrato.
- Essa política não é personalizável pelo cliente.
Política de Avaliação e Gestão de Riscos de IA
Proprietário da Apólice: Diretor Sênior – Ciência de Dados Data Efetiva: 1º de janeiro de 2025
Propósito: Estabeleça uma abordagem sistemática para identificar, avaliar e gerenciar riscos ao longo de todo o ciclo de vida da Eddy AI.
Componentes principais:
- Avaliação Inicial de Impacto da IA: Exigido antes de qualquer atividade de desenvolvimento. Cobre casos de uso pretendidos, potenciais danos, risco, probabilidade e impacto, identificação de partes interessadas e estratégias de mitigação.
- Monitoramento contínuo de riscos: Revisões trimestrais; avaliações anuais abrangentes.
- Limiares de tolerância ao risco:
- Inaceitável → Implantação proibida
- Controles de alta → aprimorados são necessários
- Controles médios → padrão aplicados
- Monitoramento de baixa →
- Registro de Risco: Documentação centralizada de todos os riscos identificados, medidas de mitigação, riscos residuais e proprietários.
Política de Gestão de Justiça e Viés em IA
Proprietário da Apólice: Diretor Sênior – Ciência de Dados Data Efetiva: 1º de janeiro de 2025
Propósito: Identifique, meça, mitigue e monitore o viés no Eddy AI para garantir resultados justos e equitativos para todos os usuários.
Tipos de viés abordados:
| Tipo | Fonte |
|---|---|
| Viés Sistêmico | Origina-se de LLMs de terceiros |
| Viés Computacional/Estatístico | Escolhas de design algorítmicas ou métodos de amostragem de dados |
| Viés Humano-Cognitivo | Suposições humanas introduzidas durante o desenvolvimento |
Requisitos de teste:
Antes da implantação:
- Análise de representatividade de conteúdo (equilíbrio de temas, profundidade, diversidade)
- Teste de estereótipos (a IA deve se recusar a reforçar estereótipos relacionados a características protegidas)
- Teste de equidade linguística para bases de conhecimento multilíngues
Após o desdobramento:
- Mensal: Análise de perguntas sem resposta por tema ou grupo de usuários
- Trimestral: Auditoria de viés total usando corpus de teste atualizado
- Anualmente: Revisão independente de viés externo e relatório de transparência publicado
OWASP e Melhores Práticas de Segurança
O Open Worldwide Application Security Project (OWASP) é uma organização sem fins lucrativos reconhecida globalmente focada em segurança de software. Publica as listas "Top 10", as vulnerabilidades de segurança mais críticas em vários domínios, incluindo aplicações web e sistemas de IA/LLM.
As 10 principais ameaças do OWASP para aplicações de LLM
| Ameaça | O que isso significa |
|---|---|
| Injeção Rápida | Entradas maliciosas que tentam manipular ou sequestrar o comportamento do LLM |
| Tratamento Inseguro de Saída | Falha em sanear as saídas dos LLMs, criando vulnerabilidades a jusante |
| Envenenamento de Dados de Treinamento | Corrompendo dados de treinamento para sabotar ou controlar o comportamento do modelo |
| Modelo de Negação de Serviço | Sobrecarga dos recursos do LLM para causar tempo de inatividade ou desempenho degradado |
| Vulnerabilidades na Cadeia de Suprimentos | Riscos de conjuntos de dados, modelos ou plugins de terceiros |
| Divulgação de Informações Sensíveis | Vazamento não intencional de dados confidenciais ou pessoais em saídas |
| Design de Plugins Inseguros | Plugins sem validação adequada ou controles de acesso |
| Agência Excessiva | Capacitar demais LLMs para tomar ações autônomas |
| Excesso de confiança (desinformação) | Confiança cega em resultados de LLMs sem validação humana |
| Roubo de Modelos | Replicação ou extração não autorizada de modelos proprietários |
Como a IA Eddy Aborda as Principais Ameaças do OWASP
LLM01: Injeção Rápida
- Todas as entradas do usuário são validadas antes do processamento.
- O contexto é isolado dos prompts do sistema.
- As instruções do sistema são reforçadas contra tentativas de injeção.
- A IA Eddy só gera respostas a partir do conteúdo da sua base de conhecimento.
- API de moderação usada para detectar e sinalizar prompts maliciosos.
LLM04: Envenenamento de Dados e Modelos (Embeddings)
- A Document360 não possui nem treina seu próprio LLM.
- Incorporações são criadas usando APIs OpenAI; o DPA com OpenAI inclui proteções contra envenenamento de dados e modelos.
LLM05: Manuseio Inadequado de Saída
- A chamada de ferramenta não é usada na arquitetura do Eddy AI, reduzindo a superfície de ataque para o manejo de saída.
- Todos os dados armazenados de forma segura no MongoDB conforme as práticas SOC 2 e GDPR.
- Criptografia de ponta aplicada a dados em repouso e em trânsito.
LLM08: Fraquezas de Vetores e Incorporação
- Os embeddings são criados exclusivamente a partir do conteúdo da sua base de conhecimento.
- Fontes externas não podem manipular ou envenenar embeddings.
- Quando o conteúdo da base de conhecimento é atualizado, os embeddings são atualizados de acordo.
LLM09: Desinformação
- Instruções rigorosas do sistema impedem a geração de informações falsas.
- Se o LLM não conseguir apresentar uma resposta confiante, ele responde com "Não sei."
- O GPT-4.1 Mini é usado como modelo principal — selecionado por sua menor taxa de alucinações.
Monitoramento Contínuo e Governança
Para gerenciar esses riscos de forma eficaz, o Ask Eddy emprega as seguintes estruturas de governança e monitoramento:
| Controle | Descrição |
|---|---|
| Detecção Automatizada de Ameaças | Monitoramento em tempo real que sinaliza padrões de entrada incomuns ou comportamentos suspeitos do modelo |
| Trilhas de Auditoria | Registros abrangentes de todas as interações de entrada-saída para análise forense e conformidade |
| Protocolos de Resposta a Incidentes | Fluxos de trabalho definidos para contenção, avaliação e remediação rápidas |
| Alinhamento de Conformidade | Auditorias e atualizações regulares alinhadas com o SOC 2 e o GDPR |
Compromisso do Document360 com as Melhores Práticas do OWASP
O Document360 integra ativamente os princípios do OWASP em toda a sua plataforma:
- Desenvolvimento seguro: Práticas seguras de codificação e validação de entrada, alinhadas às diretrizes do OWASP, estão incorporadas ao ciclo de vida do desenvolvimento.
- Mitigação comum de vulnerabilidades: Falhas de injeção, referências diretas inseguras a objetos e outros riscos Top 10 do OWASP são mitigados por meio da arquitetura da plataforma.
- Gestão de riscos específica para IA: O framework LLM Top 10 da OWASP aplicava-se a todos os recursos movidos a IA, incluindo o Eddy AI.
- Segurança da API: Tokens autenticados usados para todo acesso à API, consistente com os controles recomendados pelo OWASP.
- Infraestrutura: Hospedado no Microsoft Azure com defesa DDoS, armazenamento de dados criptografados, conformidade com SOC 2 Tipo II e GDPR, além de monitoramento contínuo alinhado às recomendações de Registro e Monitoramento de Segurança do OWASP.
Saiba mais sobre o OWASP e como a estratégia de segurança do Document360 está alinhada com as melhores práticas
- Site Oficial da OWASP: https://owasp.org
- Projeto Top 10 da OWASP: https://www.owasptopten.org
- Visão geral de segurança do Document360: https://docs.document360.com/docs/security
FAQ
Como o Document360 garante que meus dados não sejam acessados ou vazados para outros clientes? Qual garantia de segurança é aprovada?
O Document360 está em conformidade com o SOC II e segue as melhores práticas de engenharia padrão da indústria para garantir isolamento e proteção de dados. Medidas de segurança robustas são implementadas para evitar acessos não autorizados, garantindo que seus dados permaneçam seguros e inacessíveis para outros clientes. Para mais detalhes, consulte nossas práticas de segurança.
Como o Document360 garante que dados de clientes não direcionados sejam ingeridos?
O Document360 segue rigorosamente o GDPR e a Lei de IA da UE. Nossos processos internos e práticas de manuseio de dados são projetados para alinhar com todos os requisitos legais e de conformidade relevantes, garantindo que apenas os elementos de dados pretendidos e autorizados sejam processados. Dados de clientes não direcionados são explicitamente excluídos da ingestão.
Quais controles existem para detectar e prevenir erros?
Registramos todas as saídas e respostas geradas pela Eddy AI. Além disso, estamos no processo de integrar ferramentas de observabilidade de LLMs para aprimorar as capacidades de monitoramento e prevenção de erros.
Como garantir que dados sensíveis ou confidenciais não sejam expostos a outros clientes?
Temos um DPA assinado com a OpenAI afirmando que os dados não serão usados para treinamento nem compartilhados com terceiros. Estamos em conformidade com SOC2 Tipo II e GDPR. Os dados compartilhados com a IA são limitados às permissões de acesso do usuário individual e não ao projeto inteiro.
Como a confidencialidade dos meus dados é mantida, e há revisores humanos envolvidos no seu tratamento?
Todos os dados do projeto são criptografados em repouso, e todos os dados enviados ao modelo de IA são criptografados durante o trânsito. Usamos criptografia AES de 256 bits para dados em repouso e HTTPS com TLS 1.2 para dados em trânsito. Nenhum revisor humano leia, anote ou processe seus dados, e não treinamos nossos próprios LLMs.
Os dados são anonimizados antes de serem processados pelos modelos de IA?
Sim, executamos processos internos para detectar qualquer informação pessoalmente identificável (PII). Se as PII forem detectadas, elas são mascaradas e substituídas por marcadores antes de enviar os dados para quaisquer modelos de terceiros.