Hoe AI efficiënte tools voor wapendetectie mogelijk maakt

By Mauro Mereu

Een van de taken waar AI echt goed in is gebleken, is beeldherkenning. Talloze algoritmes kunnen nu longscans controleren om kanker te identificeren, boombladeren om ongedierte te identificeren, enzovoort. Bovendien kan beeldherkenning ook een ander doel dienen: beveiliging.

Met AiLert-software kunnen beveiligingscamera’s wapens detecteren. Als een mogelijk wapen wordt herkend, waarschuwt het systeem de beveiliging en stuurt een foto en beelden waarop het verdachte wapen is omcirkeld. Op deze manier hebben agenten al een idee van de situatie. In een eerdere aflevering van de Start-up of the day serie, brachten we je het verhaal van AiLert – toen heette het nog 1702ai – en van SAMSON, hun Weapon Detection Tool (WDT). We spraken opnieuw met medeoprichter en CEO Joe Levy, die ons meer vertelde over de laatste ontwikkelingen van het bedrijf.

Wat is er gebeurd sinds ons laatste interview?

“Ons team is gegroeid van een handjevol naar ongeveer tien werknemers. Verder hebben we onze wapendetector voor beveiligingscamera’s verbeterd: hij is sneller, detecteert minder valse positieven en onze technologie is nu compatibel met standaard beveiligingsprotocollen voor berichtenverkeer. Dit betekent dat we bijna plug-and-play zijn wanneer we samenwerken met beveiligingsbedrijven zoals Securitas of ADT. Bovendien zijn we nu onze eerste Amerikaanse universiteit aan het uitrusten en heeft een duur juwelenmerk besloten om al hun winkels in Griekenland uit te rusten met AiLert technologie.”

Hoe hebben jullie SAMSON verder ontwikkeld?

“Vanaf vandaag heeft de Europese Commissie SAMSON geprijsd. SAMSON kan met succes kleine handvuurwapens met magazijn detecteren in openbare ruimtes.”

Geen wapen ontsnapt aan de AI-software SAMSON van 1702ai

Iedere dag zetten we een start-up in de spotlight. Vandaag is dat het Zwitserse 1702ai, een start-up die met hun wapendetectiesoftware vuurwapengeweld wil voorkomen.

Hoe verwerken jullie gegevens?

“Over het algemeen is ons proces rechttoe rechtaan, versleuteld en voldoet het aan GDPR en de AI-wet. Eerst worden de binnenkomende gegevens continu geanalyseerd op patronen voor wapendetectie. Het algoritme doet de analyse. Bij waarschuwingen van de wapendetectietool moet een menselijke operator de beelden controleren en de detectie markeren als ofwel een positieve dreiging – de controleur bevestigt de noodzaak voor verdere actie – of een niet-bedreigende situatie – foutieve identificatie van een wapen of het spotten van een gewapende beveiligingsmedewerker.

Alleen tijdens de evaluatiefase kan de menselijke operator op de meldkamer de persoon of personen op de beelden zien. Tijdens de eerste seconden van de waarschuwingsbeelden wordt alle informatie met betrekking tot de werkelijke personen – gezichtsbeeld, lichaamsbeeld, enz. – verwijderd in een videobuffer om directe toegang tot persoonlijke gegevens te voorkomen. Deze techniek staat bekend als een pseudonimiseringsproces en AiLert heeft deze functie geïmplementeerd waar de WDT-tool is geïnstalleerd. Daarom is het beschermen van persoonlijke gegevens door middel van pseudonimisering een functie die is opgenomen in het ontwerp van de WDT-tool. De techniek wordt dus beschouwd als privacy by design en een standaardmechanisme voor het beschermen van persoonlijke gegevens dat als standaardoptie beschikbaar is in de WDT-tool.”

Heeft het algoritme een vooroordeel zoals andere AI-tools?

“De WDT-tool discrimineert mensen en groepen niet. De training van het algoritme bevat een verscheidenheid aan kunstmatig gegenereerde objecten en mensen, evenals door AiLert zelf geproduceerde CCTV-beelden van echte mensen en objecten. AiLert verbetert voortdurend de datatrainingsset(s) met aanvullend AI-gegenereerd materiaal om de database van object- en persoonsherkenning te diversifiëren. De herkenning is niet gericht op persoonlijke gegevens van welke aard dan ook, maar eerder op het classificeren van herkenbare categorieën – zoals een persoon, een mobiele telefoon of een handwapen.”

Harde AI-oordelen: de impact van trainingsgegevens

Wanneer het oordeel in handen komt van AI neemt de menselijke maat in de rechtszaal snel af.

Hoe blijven jullie het algoritme verbeteren?

“AiLert werkt voortdurend aan de verbetering van de trainingsdataset(s) van het algoritme, controleert het succespercentage van de WDT-tool en verbetert het algoritme wanneer er valse detecties worden geregistreerd. Het systeem zelf implementeert het traceerbaarheidssysteem dat de zelfevaluatie – en indien nodig externe onafhankelijke audit – en het registreren van segmenten van algoritmetraining mogelijk maakt. Daarom kan elke versie-update en de prestaties in de nasleep worden getraceerd naar specifieke verbeteringen in de code.

Er wordt voortdurend veel moeite gedaan om de diversiteit van het lesmateriaal te vergroten. Een goed voorbeeld hiervan is het gebruik van generatieve AI-software waarmee, in combinatie met camerabeelden die op het terrein van het bedrijf en met de werknemers van het bedrijf zijn gemaakt, kunstmatig gegenereerde personen van alle geslachten, kleuren, raciale en sociale achtergronden en dergelijke kunnen worden gecreëerd, die worden gebruikt als modellen om het algoritme te trainen. Aangezien de WDT-tool zich voornamelijk richt op het herkennen van een bepaalde klasse voorwerpen – handwapens, geweren, messen, andere scherpe voorwerpen en dergelijke – speelt in principe geen van de bovengenoemde kenmerken noodzakelijkerwijs een belangrijke rol bij de herkenning van specifieke voorwerpen. Vertekening door discriminatie wordt daarom niet verwacht.”

Wat zijn jullie toekomstplannen?

“SAMSON tools voor wapendetectie aanbieden met behulp van de cloud.”

In ons vorige gesprek zei je dat je het beste en bekendste bedrijf voor wapendetectiesoftware wilde worden. Hoe ver zijn jullie van het bereiken van dit doel?

“We zijn er bijna – de helft van onze nieuwe klanten heeft onze concurrenten al verlaten. We kunnen misschien geen honderden CCTV’s per locatie verwerken; we doen er slechts ongeveer een dozijn, maar tegelijkertijd werkt ons systeem zeer nauwkeurig en razendsnel.”

Tag: Start-up of the day

Verspreid over heel Europa zijn dagelijks duizenden jonge bedrijven hard aan het werk om onze wereld morgen een stuk beter te maken. Juist uit deze kleine bedrijven komen met de meest verrassende en…