Big Brother-software doet intrede op scholen Leerlingen die Googlen op ‘jihad’, foto’s rondsturen met te veel bloot of digitaal pesten kunnen vanaf september met speciale software gemakkelijk door hun school worden herkend. Het initiatief komt van de Hilversumse stichting Importunus. Het gaat om software die in Engeland is ontwikkeld in de strijd tegen ongepast digitaal gedrag. Alle digitale communicatie wordt gescreend. Als er een woord op de ‘verboden woorden’-lijst staat, krijgt de school een melding. Door Malini Witlox
Eerder was er een proef van drie weken op een Nederlandse
ALGORITME
basisschool. Ook werd er drie maanden getest op een middel
De laptops, tablets en computers van scholen die deelnemen
bare school. Die test werd echter stilgelegd nadat er mogelijk
aan het initiatief maken contact met een datacentrum, dat met
problemen met het College Bescherming Persoonsgegevens
behulp van speciaal samengestelde woordenboeken controleert
(CBP) zouden kunnen ontstaan. ‘Inhoudelijk was de pilot echter
of een leerling iets schrijft of ontvangt dat niet door de beugel
een succes’, zegt Importunus-directeur Pauline van Dulken. De
kan of gevaarlijk is voor het kind. In het woordenboek staan
namen van de deelnemende scholen worden uit privacy-
woorden als porno, anorexia, teringwijf en jihadbruid. De
overwegingen niet bekendgemaakt. ‘Er kwamen diverse zware
woordenlijst is aan te passen, zo kunnen er populaire woorden
incidenten uit naar voren. Zo hebben we een 13-jarige drugs
als banga worden toegevoegd. ‘Het betekent niet dat we alles
crimineel betrapt. Een andere zaak ging over een 12-jarige
kunnen zien dat een leerling intypt’, legt Van Dulken uit. ‘Het
jongen die in de knoei zat over zijn seksualiteit. Hij had de
systeem werkt met een algoritme dat alleen alarm slaat bij
schoollaptop mee naar huis genomen en bleek midden in de
bepaalde zoekwoorden of als een foto meer dan tachtig procent
nacht naaktfoto’s van mannen te bekijken. De zorgcoördinator
huid bevat. De zorgcoördinator krijgt op basis van de ingestelde
van zijn school heeft hem vervolgens uitgenodigd voor een
parameters bijna 200 meldingen per dag. In 90 procent van de
gesprek en uitgelegd wat de gevaren zijn als hij met die
gevallen is het loos alarm. Dan gaat het bijvoorbeeld om een
mannen afspreekt.’
meisje dat een bikinifoto van de zomer op social media heeft gezet. Of leerlingen die zoeken op islamisering en jihad omdat
8
TOESTEMMING
ze voor geschiedenis een werkstuk moeten maken. Alle data
De problemen met het CBP gingen volgens Van Dulken over de
worden encrypted verstuurd, alleen de zorgcoördinator of ver-
manier waarop Importunus de ouders informeerde. Bij leerlingen
trouwenspersoon kan zien om wie het gaat. Hij kan dan beslis-
tot 16 jaar moeten de ouders toestemming geven voor de
sen wat het beste is. Is het iets wat bij de reguliere adolescente
controlesoftware, oudere leerlingen moeten zelf toestemming
ontwikkeling hoort? Bij een bikinifoto kan hij ook besluiten tot
geven. ‘Het ging om drie formaliteiten, de manier waarop we
een voorlichtingssessie, zo’n foto kan heel makkelijk gephoto-
iets verwoord hebben, viel niet exact binnen de regelgeving van
shopt worden.’ Bij de pilot was ook een casus waarbij een vriend
het CBP. Dat hebben we aangepast. We hebben 7 juli te horen
en vriendin elkaar naaktfoto’s hadden gestuurd. De vriend was
gekregen dat de toetsing afgerond is en dat we aan de wet- en
boven de 16 en had geen toestemming gegeven om gevolgd te
regelgeving voldoen.’ Elke keer als ze inloggen, krijgen de
worden. ‘Dat is een gat in de wet, zolang hij het stuurt naar
leerlingen een melding van de aanwezigheid van de software.
iemand die we wel volgen, kunnen we het zien. Overigens had
Daarnaast kunnen ouders het aangeven als ze niet willen dat
het meisje de foto’s alleen thuis geopend, maar ze waren
hun kind deelneemt aan het project. Dan kan het systeem voor
uiteindelijk wel via Snapchat op een schoolcomputer gekomen,
die specifieke leerling uitgezet worden.
dus kregen we een melding. Beiden zijn wel aangesproken.’
COS JAARGANG 33 NUMMER 1 – 2015
CATEGORIEËN
VERPLICHTE SOFTWARE
Big Brother is watching you. De vraag is of iedereen hier wel blij
Een zwak punt zit in hardware die geen
mee is. Volgens Van Dulken vinden ouders het echter wel fijn als
eigendom van de school is zoals smartphones van de
hun kinderen online gevolgd worden. ‘Streng islamitische meisjes
leerlingen. Importunus onderzoekt nu of het wettelijk
die op een westerse school terechtkomen, zijn erg gevoelig voor
mogelijk is het dataverkeer te volgen als dit via het
jihadstrijders. En ook ouders van gepeste kinderen vinden het fijn,
wifinetwerk van de school wordt verstuurd. ‘Digitale
dan hebben ze eindelijk zwart op wit bewijs.’ Scholieren van 14
veiligheid is net zo belangrijk als fysieke veiligheid. In
zullen vaker over seks praten dan 8-jarigen. Toch is er geen
Engeland is het gebruik van deze software zelfs verplicht.
classificatie op leeftijd. Scholen hebben wel de keuze om bepaalde
We zijn in gesprek met de Nederlandse overheid over het
thema’s en woorden uit de scan te verwijderen. Zo sloeg het
belang van controle.’ Heikel punt is de kostprijs. Een
systeem in Engeland te vaak alarm bij de naam van een treinstation
basisschool tot 1500 leerlingen betaalt 225 euro per
waar een pedofiel actief was. ‘Die stationnaam is toen weggehaald.
maand, een middelbare school met 1000 leerlingen of
Maar je kunt ook nieuwe woorden toevoegen. Ook kan een zorgcoör-
meer moet 465 euro neertellen. ‘Er zijn veel scholen die
dinator beslissen dat hij alleen woorden rondom pesten wil scannen
interesse hebben, maar ze hikken tegen de kostprijs aan.
en niets rondom islamisering. Of wel meldingen rondom wapens en
We zoeken daarvoor naar oplossingen, zo is er een
niets rondom porno. Je moet het zien als een dashboard waar
samenwerking met de Vriendenloterij en proberen we
categorieën aan- en uitgezet kunnen worden.’
subsidie te krijgen.’ <<
COS JAARGANG 33 NUMMER 1 – 2015
9