AI Red Teaming en beveiligingsbeoordeling van LLM’s
Zie hoe uw AI-applicatie zich gedraagt onder adversarial testing, met onderbouwde bevindingen over prompt injection, datalekken en misbruik, en een geprioriteerde lijst van oplossingen.
- UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİIstanbul, Türkiye
- BilgeQor LtdLonden, Verenigd Koninkrijk
- PT BILGEQOR INTELLIGENT SYSTEMSJakarta, Indonesië
Past AI Red Teaming bij uw organisatie?
Ideaal voor
- ✓Teams die een chatbot, copilot, retrieval-augmented zoekfunctie of AI-agent met toegang tot bedrijfsdata of tools gaan lanceren of uitbreiden
- ✓Product- en beveiligingsverantwoordelijken die vragen van klanten of het bestuur over AI-risico’s met bewijs moeten beantwoorden
- ✓Organisaties die zich voorbereiden op verplichtingen onder de EU AI Act en willen weten waar hun systemen staan
- ✓Engineeringteams van wie de modellen tools aanroepen, het web doorzoeken of handelen op documenten die door externe partijen zijn aangeleverd
Een andere dienst past beter als
- –U wilt uw webapplicatie en API’s laten testen: Penetratietesten en API-beveiligingstests dekken dat af
- –U wilt een review van het ontwerp van een AI-agentintegratie: LLM & AI Agent Security Review dekt dat af
- –U wilt een menselijke tegenstander laten simuleren tegen uw organisatie: Red Team Exercise dekt dat af
Wat we evalueren
- Weten of verborgen instructies uw AI kunnen kapen: testen op directe en indirecte prompt injection, inclusief instructies verborgen in documenten, webpagina’s, e-mails en toolresultaten
- Gevoelige data binnen houden: testen op lekken van systeemprompts, opgehaalde documenten, trainings- of finetuningdata en data van andere gebruikers
- Zien hoe uw beleid standhoudt: testen op misbruik tegen het beleid dat u hebt vastgesteld, met jailbreaks, het omzeilen van filters voor schadelijke inhoud en misbruik van toegestane functies
- Beperken wat een agent kan doen: review van agents en toolgebruik op buitensporige rechten, onveilige acties, onveilige plug-ins en ontbrekende menselijke goedkeuringsstappen
- De data achter het model beveiligen: review van retrieval, vectorstore en datapipeline, inclusief toegangscontrole en poisoningpaden
- De maatregelen rond het model controleren: review van authenticatie, rate limiting, afhandeling van uitvoer en logging in de omliggende applicatie
- Voorbereiden op gesprekken over de EU AI Act: mapping van de gereedheid voor systeemclassificatie, documentatie en hiaten in toezicht, gepresenteerd als gereedheidsbeeld voor uw adviseurs
Op te leveren resultaten
- Typische doorlooptijd
- Doorgaans 2–4 weken vanaf de ondertekende scope, afhankelijk van het aantal AI-systemen en tools binnen de scope, bevestigd in uw schriftelijke voorstel.
- Prijzen
- Voorstel met vaste prijs na een gratis scopinggesprek.
Voordat we beginnen
- +Akkoord van een bestuurder die eigenaar is van het AI-systeem, voor de testmethoden en testaccounts
- +Een test- of stagingomgeving, of grenzen voor testen in productie
- +Testaccounts, API-toegang en documentatie van het model, de tools, databronnen en systeemprompts
- +Schriftelijke gebruiksregels voor het testen van schadelijke inhoud, gegevensverwerking en stopvoorwaarden
- +Meldingen aan de aanbieder van het model of platform, waar hun voorwaarden daarom vragen
- +Aangewezen contactpersonen die tijdens het testvenster beschikbaar zijn
Niet inbegrepen (apart beschikbaar)
- Juridisch advies of een formele vaststelling van naleving van de EU AI Act, conformiteitsbeoordeling of certificering; wij geven u het gereedheidsbewijs dat uw adviseurs nodig hebben
- Het trainen of hertrainen van modellen, of het bouwen van nieuwe guardrailsystemen, tenzij apart geoffreerd
- Het testen van de eigen infrastructuur van externe modelaanbieders, en denial-of-servicetests die gedeelde of productiecapaciteit kunnen raken
- Algemeen testen van web en API’s van de hostapplicatie: beschikbaar als Penetratietesten en API-beveiligingstests
Hoe het werkt
Scoping en akkoord
Het testen begint pas met schriftelijke toestemming van de eigenaar en een ondertekende scope met afgesproken stopvoorwaarden, zodat uw live AI-systeem en de gebruikers ervan beschermd blijven. Wij bevestigen het AI-systeem, de testomgeving, misbruikscenario’s en verboden handelingen vóór er wordt getest.
Dreigingsmodellering
Wij brengen databronnen, tools, gebruikers en vertrouwensgrenzen in kaart om te bepalen welke aanvalspaden voor uw systeem het zwaarst wegen.
Adversarial testing
Wij voeren handmatige en geautomatiseerde aanvallen uit op het systeem binnen de scope en leggen per bevinding de prompts, antwoorden en het bewijs vast.
Rapportage
Wij leveren de bevindingen, het aanvalspadverhaal, de aanbevelingen voor maatregelen en de gereedheidskaart op in een vorm waarmee uw teams aan de slag kunnen.
Nabespreking en hertest
Wij lopen uw betrokkenen door de resultaten en voeren, als u daarvoor kiest, een hertest uit van de oplossingen die u hebt doorgevoerd.
Vraag eerst een scopebepaling aan. Wij reageren binnen 24 uur en bevestigen het AI-systeem, de integraties, de machtiging en het testvenster in een schriftelijk voorstel. Het werk begint zodra de schriftelijke scope is bevestigd.
Reikwijdte & offerte
De definitieve scope en offerte zijn afhankelijk van uw AI-systeem, integraties en testvenster.
Waarom BilgeQor
- Elke bevinding komt met reproductieprompts en bewijs, en een aanvalspadverhaal laat zien hoe problemen in uw applicatie samenkomen.
- De gereedheidskaart voor de EU AI Act geeft uw adviseurs een gestructureerd beeld van hiaten in classificatie, documentatie en toezicht.
- Het AI-systeem, de testomgeving en de stopvoorwaarden worden eerst in een schriftelijke scope vastgelegd; testers werken op afstand, gecoördineerd vanuit Istanbul, Jakarta en Londen.
Veelgestelde vragen
Gerelateerde diensten
Beveiligingsbeoordeling van OT, ICS en IoT
Beveiligingsbeoordeling van industriële besturingssystemen, netwerken voor operationele technologie en gekoppelde apparaten met veiligheid voorop, gepland samen met uw engineers.
Test uw API’s op toegangsfouten
Geautoriseerd testen van uw REST-, GraphQL- en mobile-backend-API’s op gebrekkige autorisatie, injectie en fouten in de bedrijfslogica, met een duidelijke lijst van oplossingen.
Industrieën
Zet uw AI-applicatie onder druk
Beschrijf uw AI-systeem en de bijbehorende tools; een voorstel met vaste prijs komt schriftelijk terug.
Wat er gebeurt na het versturen
- We beoordelen uw aanvraag
- Gesprek over de scope
- Schriftelijk voorstel
We antwoorden binnen de 24 uur.
