Aiba gjør livet på nettet tryggere for barn

Cybergrooming er en stor trussel mot barn og unge på internett. Ved å etterligne unge mennesker gjennom falske nettkontoer, når voksne ut til barn og tenåringer på chat- og spillplattformer med mål om å bli venner med dem. Over tid bygger de et tillitsbasert forhold til barna før det blir et mareritt for de unge.

– Cybergroomerne vil ofte oppmuntre barna til å sende seksualiserte bilder og nakenbilder av seg selv. Hvis de får noen vil de kreve mer. Etter massivt press og trusler om spredning, og i fortvilelse for å prøve å unngå at nakenbildene går viralt, sender mange unge nye bilder for å glede gjerningsmannen forteller Hege Tokerud, administrerende direktør og medgründer av AiBA.

Noen forhold eskalerer fordi nettovergriperen klarer å overtale barna og tenåringene til å møtes personlig. Slike møter fører svært ofte til fysiske seksuelle overgrep.

Ved å bruke AI trener AiBA algoritmer til å oppdage potensielle cybergrooming-samtaler på et tidlig stadium. Dette starter så fort en forbindelse på en spill- eller chat-plattform der AiBA-løsningen er implementert etableres. Hvis en blir identifisert varsler programvaren plattformeierne for å gjøre dem oppmerksomme på at tiltak bør gjøres.

For å sikre pålitelighet og at riktige tiltak iverksettes må personalet til plattformeierne verifisere varselet før tiltak aktiveres.

– Det som gjør AiBA unik, er den proaktive tilnærmingen til problemet. Målet vårt er å stoppe groomingen så raskt som mulig etter et forhold til et barn er etablert. Tidligere kunne vi oppdage og identifisere cybergrooming innenfor 40 chat-meldinger. Nå klarer vi det på under 20 meldinger, forklarer Tokerud.

Bak teknologien presentert i AiBA skjuler det seg mange års forskning på atferdsbiometri. Setningsstruktur, bruk av emojier, hastighet og rytme på tastetrykk, og valg av ord er elementer som kan avsløre alder og kjønn.

Professor og forsker ved Norges teknisk-naturvitenskapelige universitet (NTNU), Patrick Bours, er ekspert på kontinuerlig analyse og atferdsbiometri og hadde ideen om å kommersialisere forskningsresultatene.

Den teknologiske implementeringen er utviklet av Inmeta, et norsk konsulentselskap i Crayon group, som er spesialisert på digital og datadrevet innovasjon. Selskapet har mer enn 200 rådgivere og konsulenter med base i Oslo, Trondheim, Hamar og Bergen:

– Da AIBA kontaktet oss for å utvikle den nødvendige teknologien for å realisere prosjektet, var det ingen tvil. Vi ville være med! Dette er et prosjekt som betyr noe, og Inmeta ønsker å sette fotspor. sier Henrik Slettene, Leder for kunstig intelligens i Inmeta.

I løpet av de siste 7 årene har Inmeta levert 150 maskinlæringsprosjekter til mer enn 50 selskaper i både privat og offentlig sektor. Med 25 dedikerte dataforskere og forretningsrådgivere som utelukkende fokuserer på kunstig intelligens-domenet, adresserer Inmeta hele verdikjeden. Det inkluderer strategiutvikling, dataplattformer, datavitenskap og analytisk modellutvikling, AI-operasjonalisering og forretningsendring og -utvikling.

Tilgang til atferdsbiometriske data er avgjørende for å kunne trene AiBA-algoritmen til å oppdage og identifisere cybergroomere. Paradoksalt nok er mangel på data en av de store utfordringene prosjektet står overfor.

– Vi opplever at noen spillplattformer er tilbakeholdne med å involvere seg i AiBA fordi de frykter å bli knyttet til cybergrooming på en negativ måte. Likevel erkjenner alle at cybergrooming er et stort og økende problem, og vi oppfordrer bransjen til å endre tilnærming til temaet, sier Tokerud.

I USA er bransjen regulert av en lov som forplikter selskapene til å sikre sine brukere. En lignende lovgivning er blitt forsøkt å innføres i EU uten å lykkes. Næringen argumenterer for at lovgivningen vil være for ressurskrevende til å følge opp, og at det derfor vil være en sovende lovgivning.

– Men nå har vi en løsning, påpeker Tokerud.

To globale spillplattformer som rettes mot barn og unge er piloter i AiBA-prosjektet. De skal implementere programvaren, teste den og gi verdifull tilbakemelding for å forbedre produktet.

– Spillplattformene tenker annerledes om deres tilknytning til cybergrooming. Det er viktig for dem å kommunisere til foreldre over hele verden at «dine barn er trygge på våre plattformer», sier Tokerud.

Innsatsen fra de to spillplattformene er avgjørende for å trene og forbedre AiBA-algoritmen. I tillegg har prosjektet også et samarbeid med norsk politi for å finne ut om programvaren kan brukes til å oppdage cybergrooming-samtaler i pågående etterforskning.

– Å utvikle en programvare som dette er en krevende og utfordrende oppgave, som aldri vil bli helt ferdig. Noen vil alltid prøve å finne en måte å lure systemet på. Derfor er det et behov for konstant data fra autentiske chat-logger, forklarer Slettene.

Patrick Bours deltok på konferansen AI+ sammen med dataforsker Saghar Asadi fra Inmeta. Der fortalte de mer om forskningen og teknologien bak AiBA.

Gå til aiba.ai

Les mer om hvordan vi jobber med kunstig intelligens.