Dit artikel documenteert de interne beveiligingsbeleid die bepalen hoe Eddy AI wordt gebouwd en gebruikt, en hoe Document360 aansluit bij OWASP-beveiligingsstandaarden voor AI- en LLM-toepassingen.
Beveiligingsbeleid
Document360 onderhoudt een set formele beleidsregels die van toepassing zijn op alle systemen, inclusief Eddy AI. Hieronder volgt een samenvatting van elk exemplaar.
Cryptografiebeleid
Polishouder: CEO
Ingangsdatum: 1 maart 2024
Scope: Alle Document360-systemen die vertrouwelijke gegevens opslaan of verzenden.
Doel: Zorg ervoor dat cryptografie correct wordt gebruikt om de vertrouwelijkheid, integriteit en authenticiteit van informatie te beschermen.
Belangrijke vereisten:
- Encryptiestandaarden volgen NIST SP 800-57.
- AES-256-bit symmetrische encryptie voor data in rust (maximale sleutelperiode: 1 jaar).
- TLS 1.3 voor alle OpenAI API ; certificaatpinning wordt afgedwongen op OpenAI-eindpunten.
- Wederzijdse TLS vereist voor implementaties met hoge gevoeligheid.
- Tekstembeddings in MongoDB gebruiken versleuteling op veldniveau.
- Alle gebruikersprompts worden versleuteld vóór opslag; AI-antwoorden worden versleuteld tijdens transport en in rust.
- Wachtwoorden gehasht met Bcrypt, PBKDF2, scrypt of Argon2 (256-bits sleutel, 10K stretch, met unieke zout en peper).
- Azure Key Vault werd gebruikt om alle geheimen en API-sleutels te beheren en te beschermen.
- Uitzonderingen vereisen goedkeuring en documentatie van de CEO.
- Overtredingen die aan de CEO worden gemeld; kan leiden tot disciplinaire maatregelen, waaronder ontslag.
Incident Response Plan
Polishouder: Product Owner
Ingangsdatum: 1 maart 2024
Doel: Bied een gestructureerd plan op voor het beheren van informatiebeveiligingsincidenten in Document360, inclusief AI-specifieke incidenten.
Definities:
- Beveiligingsgebeurtenis: Een waarneembaar verschijnsel dat relevant is voor gegevensbeveiliging.
- Beveiligingsincident: Een gebeurtenis die leidt tot daadwerkelijk verlies of schade aan de gegevensbeveiliging.
Ernst van incidenten:
| Niveau | Type | Voorbeelden |
|---|---|---|
| S1 – Kritisch | AI-incidenten | Systematische vooringenomenheid die beschermde groepen treft; succesvolle jailbreak in productie (100+ gebruikers); PII blootgelegd via AI-reacties; Hallucinatiepercentage >5% aanhoudend gedurende 1+ uur |
| S2 – Hoog | AI-incidenten | Moderatie-API omzeiling gedetecteerd; prompt injectie die <100 gebruikers treft; modeldrift >10% nauwkeurigheidsachteruitgang; Citatiefoutpercentage >15% |
| S3 – Medium | AI-incidenten | Enkele ononderbouwde AI-reactie; DAN-stijl gevangenisuitbraak geblokkeerd; Responslatentie >10 seconden |
Reactieproces: Triage → onderzoek → containment → uitroeiing → herstel → verharding → geleerde lessen
Belangrijke regels:
- Technische managers leiden de incidentrespons, met een aangewezen War Room voor coördinatie.
- Alleen de Product Owner kan een datalek opgeven.
- Melding van datalekken volgt aan de wettelijke vereisten (AVG, enz.).
- Voor alle S1-incidenten is een onderliggende oorzaakanalyse verplicht, beoordeeld door de Director of Engineering.
- Melden: Werknemers melden vermoedelijke incidenten onmiddellijk via vastgestelde kanalen; Alle incidenten moeten worden gedocumenteerd.
Informatiebeveiligingsrollen en -verantwoordelijkheden
Polishouder: CEO
Ingangsdatum: 1 maart 2024
Scope: Alle Document360-infrastructuur, medewerkers, aannemers, partners en partners die betrokken zijn bij informatiebeveiliging.
| Rol | Verantwoordelijkheden |
|---|---|
| Uitvoerend Leiderschap | Keurt de uitgaven goed voor de beveiliging; toezicht op risicomanagement; zorgt voor naleving van GDPR, CCPA, SOC 2 en ISO 27001; Beheert leverancierscontracten |
| Directeur Engineering | Toezicht houdt op beveiliging in softwareontwikkeling; voert IT-risicoanalyses uit; Monitors bedieningselementen |
| VP Klantenservice | Beheert beveiligingstools in klantomgevingen; handhaaft beleid voor gegevensbehoud en verwijdering |
| Systeemeigenaren | Het waarborgen van vertrouwelijkheid, integriteit en beschikbaarheid van hun systemen; Toegangs- en wijzigingsverzoeken goedkeuren |
| Werknemers & Aannemers | Volg de beleidsregels; Risico's identificeren; Melding van incidenten |
| Chief People Officer | Beheert achtergrondcontroles, gedragscode en beveiligingstrainingen |
Niet-naleving kan leiden tot disciplinaire maatregelen, waaronder ontslag.
Beleid voor Veilige Ontwikkeling
Polishouder: CEO
Ingangsdatum: 1 maart 2024
Scope: Alle bedrijfskritische Document360-applicaties die vertrouwelijke gegevens verwerken, opslaan of verzenden.
Secure-by-design principes toegepast:
- Minimaliseer het aanvalsoppervlak
- Veilige standaardinstellingen
- Minst privilege
- Verdediging in diepte
- Fail veilig
- Vermijd beveiliging door obscuriteit
- Houd de beveiliging eenvoudig
Toegepaste privacy-by-design principes:
- Proactieve en preventieve aanpak
- Privacy als standaardinstelling
- Privacy ingebed in het ontwerp
- Volledige functionaliteit zonder in gevaar te brengen voor privacy
- End-to-end beveiliging en volledige levenscyclusbescherming
Extra bediening:
- Ontwikkelings-, stage- en productieomgevingen zijn strikt gescheiden.
- Een Release Checklist moet worden ingevuld voordat de code wordt uitgezet.
- Testgegevens mogen geen echte vertrouwelijke klantgegevens gebruiken zonder expliciete toestemming.
- Alle wijzigingen vereisen aparte personen voor ontwikkeling, testen en implementatie.
- Alle software is versiegestuurd met rolgebaseerde toegang.
Gedragscode beleid
Polishouder: CEO
Ingangsdatum: 1 maart 2024
Zorgt voor een veilige, inclusieve werkplek. Van al het personeel wordt verwacht dat ze met respect en samenwerking handelen. Intimidatie, geweld, discriminatie en ongepast gedrag zijn strikt verboden. Overtredingen leiden tot onmiddellijke corrigerende maatregelen.
Toegangscontrolebeleid
Polishouder: Ingangsdatum van de CEO: 1 maart 2024 Scope: Alle Document360-systemen die vertrouwelijke gegevens verwerken.
Belangrijke bedieningselementen:
- Toegang verleend op basis van de functierol en gedocumenteerde zakelijke behoefte.
- Multifactorauthenticatie (MFA) vereist voor alle bevoorrechte toegang.
- Generieke administratieve ID's zijn verboden.
- Tijdgebonden toegangsrechten om de blootstelling te beperken.
- Alle bevoorrechte inloggegevens en activiteiten worden geregistreerd en gecontroleerd.
- Regelmatige gebruikerstoegangscontroles worden uitgevoerd.
- Wachtwoordbeheer: veilige inlogprocedures worden gehandhaafd.
- Overtredingen gemeld en onderworpen aan handhaving.
Gegevensbeheerbeleid
Polishouder: Ingangsdatum van CEO: 1 maart 2024
Dataclassificatie:
| Klasse | Beschrijving | Voorbeelden |
|---|---|---|
| Vertrouwelijk | Hoogste bescherming; Beperkte toegang | Klantgegevens, PII, financiële gegevens, technische rapporten |
| Beperkt | Grondige bescherming; Standaard voor alle interne data | Interne beleidsregels, juridische documenten, contracten, e-mails |
| Publiek | Geen speciale besturing | Marketingmateriaal, productbeschrijvingen |
Vertrouwelijke gegevensafhandeling:
- Beperkte toegang; versleuteld in rust en tijdens transport.
- Niet opgeslagen op persoonlijke apparaten of verwijderbare media.
- Veilige opslag en verwijdering vereist.
Databehoud:
- Behouden zolang nodig is voor zakelijke, regelgevende of contractuele doeleinden.
- PII verwijderd of gedeïdentificeerd wanneer het niet meer nodig was.
- Jaarlijkse beheerbeoordeling van de retentievereisten.
- Gegevens van juridisch vasthouden die bewaard worden volgens de instructies van de juridische adviseur.
Overtredingen gemeld aan de CEO; kan leiden tot ontslag.
Beleid voor operationele beveiliging
Polishouder: Ingangsdatum van de CEO: 1 maart 2024 Scope: Alle kritieke Document360-systemen en derden met netwerktoegang.
Belangrijke bedieningselementen zijn onder andere:
- Verandermanagement: Alle belangrijke veranderingen worden gedocumenteerd, getest en goedgekeurd vóór de inzet; Noodwijzigingen vereisen een terugwerkende goedkeuring.
- Capaciteitsbeheer: Middelen worden gemonitord en aangepast; Menselijke capaciteit opgenomen in jaarlijkse risicobeoordelingen.
- Preventie van datalekken: DLP-instrumenten toegepast op basis van risicobeoordeling; gebruikers die getraind zijn in het omgaan met gevoelige gegevens.
- Webfiltering: DNS- en IP-blokkering voor risicovolle of kwaadaardige sites.
- Milieu-separatie: Ontwikkeling, enscenering en productie strikt gescheiden; Geen productiedata in dev/test zonder goedkeuring.
- Bescherming tegen malware: Anti-malware en dreigingsdetectie op alle eindpunten en e-mail.
- Reserves: Ontworpen en geïmplementeerd om te voldoen aan de SLA's voor klantgegevensherstel.
- Logging en monitoring: Actieve detectie en reactie op beveiligingsincidenten.
- Kwetsbaarheidsbeheer: Tijdige identificatie, beoordeling en sanering van technische kwetsbaarheden.
- Datamaskering: PII en gevoelige gegevens gemaskeerd op basis van risicobeoordeling.
Beleid voor gegevensbehoud
Polishouder: Ingangsdatum van CEO: 1 maart 2024 Scope: Alle Document360-klanten, zowel publieke als private kennisbasisprojecten.
Welke gegevens worden verzameld:
- Openbare sites: Geen gebruikersgegevens verzameld.
- Privéprojecten: Gebruikersidentiteit, tijdstempels en andere gebruikersinformatie beschikbaar binnen Document360.
Hoe het wordt gebruikt: Document360 slaat alle prompts op die in de Eddy AI-chatbot zijn ingevoerd voor:
- Topische analyse (clustering van vragen met interne algoritmen en OpenAI API's)
- Citatieanalyse (het identificeren van meest geciteerde artikelen)
- Meetwaarden (beantwoorde versus onbeantwoorde vragen, dieptemetingen)
Bewaren en verwijderen:
- Data wordt bewaard binnen uw Document360-project.
- Data wordt permanent verwijderd wanneer het kennisbasisproject wordt verwijderd.
- Klanten kunnen op elk moment tijdens de contractperiode om verwijdering vragen.
- Dit beleid is niet aanpasbaar door de klant.
AI-risicobeoordelings- en beheerbeleid
Polishouder: Senior Director – Data Science Ingangsdatum: 1 januari 2025
Doel: Stel een systematische aanpak vast voor het identificeren, beoordelen en beheren van risico's gedurende de volledige levenscyclus van Eddy AI.
Belangrijkste onderdeel:
- Eerste AI-impactbeoordeling: Vereist voor elke ontwikkelingsactiviteit. Behandelt beoogde gebruiksscenario's, potentiële schade, risicokans en impact, identificatie van belanghebbenden en mitigatiestrategieën.
- Voortdurende risicomonitoring: Kwartaalbeoordelingen; Uitgebreide jaarlijkse beoordelingen.
- Drempels voor risicotolerantie:
- Onacceptabel → Inzet verboden
- Hoge → Verbeterde besturing vereist
- Medium → Standard toegepaste controles
- Alleen lage → monitoring
- Risicoregister: Gecentraliseerde documentatie van alle geïdentificeerde risico's, mitigatiemaatregelen, restrisico's en eigenaren.
AI-beleid voor eerlijkheid en vooringenomenheid
Polishouder: Senior Director – Data Science Ingangsdatum: 1 januari 2025
Doel: Identificeer, met, mitikeer en monitor bias in Eddy AI om eerlijke, rechtvaardige resultaten voor alle gebruikers te waarborgen.
Soorten vooringenomenheid behandeld:
| Type | Bron |
|---|---|
| Systemische vooringenomenheid | Afkomstig van LLM's van derden |
| Computationele/statistische bias | Algoritmische ontwerpkeuzes of datasteekproefmethoden |
| Mens-cognitieve bias | Menselijke aannames die tijdens de ontwikkeling zijn geïntroduceerd |
Testvereisten:
Voor de uitzending:
- Analyse van inhoudsvertegenwoordiging (onderwerpbalans, diepgang, diversiteit)
- Stereotypetesten (AI moet weigeren stereotypen te versterken die verband houden met beschermde kenmerken)
- Taalrechtvaardigheidstesten voor meertalige kennisbases
Na de uitzending:
- Maandelijks: Analyse van onbeantwoorde vragen per onderwerp of gebruikersgroep
- Kwartaalvis: Volledige bias-audit met behulp van bijgewerkte testcorpus
- Jaarlijks: Onafhankelijke externe biasbeoordeling en gepubliceerde transparantierapport
OWASP en Best Practices voor beveiliging
Het Open Worldwide Application Security Project (OWASP) is een wereldwijd erkende non-profitorganisatie die zich richt op softwarebeveiliging. Het publiceert de "Top 10"-lijsten, de meest kritieke beveiligingslekken in diverse domeinen, waaronder webapplicaties en AI/LLM-systemen.
OWASP Top 10 Bedreigingen voor LLM-toepassingen
| Bedreiging | Wat het betekent |
|---|---|
| Prompt injectie | Kwaadaardige invoer die proberen het gedrag van de LLM te manipuleren of te kapen |
| Onveilige uitvoerverwerking | Niet saneren van LLM-uitvoeren, wat leidt tot kwetsbaarheden in de downstream |
| Trainingsdatavergiftiging | Trainingsdata beschadigen om modelgedrag te saboteren of te controleren |
| Model Denial of Service | Overbelasting van LLM-resources veroorzaakt downtime of verminderde prestaties |
| Kwetsbaarheden in de toeleveringsketen | Risico's van datasets, modellen of plugins van derden |
| Openbaarmaking van gevoelige informatie | Onbedoeld lekken van vertrouwelijke of persoonlijke gegevens in de output |
| Onveilige plugin-ontwerp | Plugins zonder juiste validatie of toegangscontroles |
| Overmatige handelingsvrijheid | Overmatige machtiging van LLM's om autonome acties te ondernemen |
| Overafhankelijkheid (Misinformatie) | Blind vertrouwen in LLM-uitkomsten zonder menselijke bevestiging |
| Modeldiefstal | Ongeoorloofde replicatie of extractie van propriëtaire modellen |
Hoe Eddy AI belangrijke OWASP-bedreigingen aanpakt
LLM01: Prompt Injectie
- Alle gebruikersinvoer wordt gevalideerd voordat ze verwerkt worden.
- Context is geïsoleerd van systeemprompts.
- Systeeminstructies zijn versterkt tegen injectiepogingen.
- Eddy AI genereert alleen antwoorden op basis van de inhoud van je kennisbasis.
- Moderatie-API gebruikt om kwaadaardige prompts te detecteren en te markeren.
LLM04: Data en modelvergiftiging (embeddings)
- Document360 bezit of traint geen eigen LLM.
- Embeddings worden gemaakt met OpenAI-API's; de DPA met OpenAI bevat bescherming tegen data- en modelvergiftiging.
LLM05: Onjuiste uitvoerafhandeling
- Tool calling wordt niet gebruikt in de architectuur van Eddy AI, waardoor het aanvaloppervlak voor output handling wordt verminderd.
- Alle gegevens worden veilig opgeslagen in MongoDB volgens SOC 2 en GDPR-praktijken.
- State-of-the-art encryptie toegepast op data in rust en tijdens transport.
LLM08: Vector- en embeddingzwaktes
- Embeddings worden uitsluitend gemaakt uit de inhoud van je kennisbasis.
- Externe bronnen kunnen embeddings niet manipuleren of vergiftigen.
- Wanneer de inhoud van de kennisbasis wordt bijgewerkt, worden embeddings dienovereenkomstig bijgewerkt.
LLM09: Misinformatie
- Strikte systeeminstructies voorkomen dat valse informatie wordt gegenereerd.
- Als de LLM geen zelfverzekerd antwoord kan geven, reageert hij met "Ik weet het niet."
- De GPT-4.1 Mini wordt gebruikt als het primaire model — geselecteerd vanwege zijn lagere hallucinatiefrequentie.
Continue monitoring en governance
Om deze risico's effectief te beheren, maakt Ask Eddy gebruik van de volgende governance- en monitoringstructuren:
| Controle | Beschrijving |
|---|---|
| Geautomatiseerde dreigingsdetectie | Realtime monitoring die ongebruikelijke invoerpatronen of verdacht modelgedrag signaleert |
| Auditsporen | Uitgebreide logboeken van alle input-output interacties voor forensische analyse en naleving |
| Incident Response Protocollen | Gedefinieerde workflows voor snelle beheersing, beoordeling en herstel |
| Naleving afstemming | Regelmatige audits en updates in overeenstemming met SOC 2 en GDPR |
Document360's toewijding aan OWASP Best Practices
Document360 integreert OWASP-principes actief over zijn hele platform:
- Veilige bouw: Veilige codering en invoervalidatiepraktijken die zijn afgestemd op de OWASP-richtlijnen zijn opgenomen in de ontwikkelingslevenscyclus.
- Veelvoorkomende kwetsbaarheidsbeperking: Injectiefouten, onveilige directe objectreferenties en andere OWASP Top 10 risico's worden gemitigeerd door de platformarchitectuur.
- AI-specifiek risicomanagement: OWASP's LLM Top 10-framework gold voor alle AI-gestuurde functies, inclusief Eddy AI.
- API-beveiliging: Geauthenticeerde tokens die worden gebruikt voor alle API-toegang, in overeenstemming met de door OWASP aanbevolen controles.
- Infrastructuur: Gehost op Microsoft Azure met DDoS-verdediging, versleutelde gegevensopslag, SOC 2 Type II- en GDPR-compliance, en continue monitoring in lijn met OWASP's aanbevelingen voor Security Logging and Monitoring.
Lees meer over OWASP en hoe de beveiligingsstrategie van Document360 aansluit bij best practices
- OWASP Officiële Site: https://owasp.org
- OWASP Top 10 Project: https://www.owasptopten.org
- Document360 Beveiligingsoverzicht: https://docs.document360.com/docs/security
FAQ
Hoe zorgt Document360 ervoor dat mijn gegevens niet worden benaderd of gelekt naar andere klanten? Welke beveiligingsgarantie is goedgekeurd?
Document360 is SOC II-conform en voldoet aan de beste technische praktijken van de industriestandaard om gegevensisolatie en -bescherming te waarborgen. Robuuste beveiligingsmaatregelen worden ingevoerd om ongeautoriseerde toegang te voorkomen, zodat uw gegevens veilig blijven en ontoegankelijk blijven voor andere klanten. Voor meer details kunt u onze beveiligingspraktijken raadplegen.
Hoe zorgt Document360 ervoor dat niet-gerichte klantgegevens niet worden geconsumeerd?
Document360 houdt zich strikt aan de AVG en de EU AI Act. Onze interne processen en gegevensafhandelingspraktijken zijn ontworpen om in overeenstemming te zijn met alle relevante wettelijke en compliance-vereisten, zodat alleen bedoelde en geautoriseerde data-elementen worden verwerkt. Niet-gerichte klantgegevens zijn expliciet uitgesloten van opname.
Welke controles zijn er om fouten te detecteren en te voorkomen?
We loggen alle outputs en antwoorden die door Eddy AI zijn gegenereerd. Daarnaast zijn we bezig met het integreren van LLM-observabiliteitstools om de monitoring- en foutpreventiemogelijkheden te verbeteren.
Hoe zorg je ervoor dat gevoelige of vertrouwelijke gegevens niet aan andere klanten worden blootgesteld?
We hebben een DPA ondertekend met OpenAI waarin staat dat data niet gebruikt zal worden voor training of gedeeld met anderen. Wij zijn SOC2 Type II en GDPR-conform. De gegevens die met AI worden gedeeld, zijn beperkt tot de toegangsrechten van de individuele gebruiker en niet tot het hele project.
Hoe wordt de vertrouwelijkheid van mijn gegevens gewaarborgd, en zijn er menselijke beoordelaars betrokken bij het verwerken ervan?
Alle projectdata wordt in rust versleuteld, en alle data die naar het AI-model wordt gestuurd, wordt tijdens het transport versleuteld. We gebruiken AES 256-bits encryptie voor data in rust en HTTPS met TLS 1.2 voor data in transit. Geen enkele menselijke beoordelaar leest, annoteert of verwerkt uw gegevens, en wij trainen onze eigen LLM's niet.
Worden de gegevens geanonimiseerd voordat ze door de AI-modellen worden verwerkt?
Ja, we voeren interne processen uit om persoonlijk identificeerbare informatie (PII) te detecteren. Als PII wordt gedetecteerd, wordt deze gemaskeerd en vervangen door tijdelijke aanduidingen voordat de gegevens naar derde-partijmodellen worden gestuurd.