UvA in de slimme stad

Overheden en andere partijen leren kennen wie wij zijn, waar we zijn en wat we graag doen. UvA-onderzoekers bekijken het grote potentieel, valkuilen en de impact van al die kennis op een samenleving die non-stop met elkaar in verbinding staat.

Een camera in de slaapkamer

In een verpleeghuis voor dementerenden in Amsterdam hangen slimme camera’s. Valt een patiënt, dan waarschuwt de camera een zorgmedewerker met een sms’je. Ook kan de camera leren wie er in welke kamer thuishoort, zodat de deur alleen voor die patiënt opengaat. 'Het is een innovatie die goed laat zien wat het potentieel is van een slimme stad en wat er nu al kan', zegt Cees Snoek, hoogleraar Intelligent Sensory Information Systems en hoofd research en development bij UvA-spin-off Kepler Vision, die de camera’s plaatsten voor de ontwikkeling van hun Night Nurse-sensor-technologie.

'Patiënten blijven aantoonbaar korter liggen en het aantal keer dat het personeel vals alarm krijgt, is teruggedrongen met 99% tegenover oude sensoren.'
Cees Snoek hoogleraar Intelligent Sensory Information Systems aan de Faculteit der Natuurwetenschappen, Wiskunde en Informatica (FNWI).

Big Brother

'Maar het is ook een innovatie die dilemma's blootlegt', zegt Snoek. Om te kunnen registreren wanneer iemand valt, moet de camera 24/7 aanstaan, ook in de slaap- en badkamer.

'Dat roept een Big Brother-sentiment op met terechte vragen over privacy en veiligheid. Maar een echt slimme camera biedt de bewoners juist meer privacy. De huidige ‘domme’ camera’s worden bekeken door mensenogen, dát is een Big Brother-scenario. Een slimme camera kun je programmeren alleen signaal te geven bij een specifieke actie. Bij alle andere momenten kijkt de camera wel, maar ziet die eigenlijk niks. Een bewoner kan bij wijze van spreken beroofd worden, zonder dat de camera actie onderneemt, die is uitsluitend gericht op het registreren van iemand die valt.'

Opschalen

'Wat in het verpleeghuis gebeurt, kan straks op grote schaal plaatsvinden', zegt Snoek. Nu al openen camera’s hekken voor de juiste kentekens, rapporteren sensoren overlast aan handhavers en vertellen gecombineerde bronnen als gps en pin-verkeer hoe druk het is op plekken in de stad. Het potentieel van camera’s met slimme techniek in de stad is groot.

Wie is Cees Snoek?

Cees Snoek is hoogleraar Intelligent Sensory Information Systems aan de Faculteit der Natuurwetenschappen, Wiskunde en Informatica (FNWI), oprichter van het Video en Sense Lab van de UvA, medeoprichter van het Innovation Center for Artificial Intelligence (ICAI), hoofd research en development bij  UvA-spin-off Kepler Vision en wetenschappelijk directeur Amsterdam AI.

'Chilling effect' op grondrechten

Rondom elke ontwikkeling in de slimme stad is een discussie te bedenken. Een van de spannendste gaat over de impact van techniek op het gedrag van de mens. 'Als je weet dat alles gefilmd wordt, verandert je gedrag dan? Ik kan me voorstellen dat je niet meer bij een misschien wat omstreden demonstratie op de Dam aansluit', zegt Heleen Janssen, als onderzoeker betrokken bij het Instituut voor Informatierecht van de UvA. 'Dan komt de vrijheid van meningsuiting al in het geding, in de openbare ruimte gelden grondrechten, daar hoef je je als burger niet voor te wapenen. Maar er kan sprake zijn van een 'chilling effect' op de manier waarop burger gebruikmaken van die grondrechten.'

Controle over de publieke ruimte

Volgens Janssen wordt het de komende jaren spannend wie de (digitale) controle over de openbare ruimte houdt: 'Als commerciële partijen die ruimte koloniseren verliest de gemeente, die verantwoordelijk is voor het beheer, de controle.'

'Dat zien we nu al. Google Maps en AirBnB hebben grote hoeveelheden data over de stad en baseren daar beslissingen op die impact hebben op de openbare ruimte. Maps leidt zwaar vrachtverkeer langs de meest commercieel aantrekkelijke route, niet de meest duurzame of de route die de gemeente zou kiezen. AirBnB weigert pertinent data te delen met overheden. Daar moet een lang en serieus gesprek over gevoerd worden.'

Discriminatie

Een ander veelbesproken spanningsveld is het ontstaan van discriminatie binnen zelflerende techniek. 'Als AI gevoed wordt met bepaalde risicoprofielen, kan dit heel snel fout gaan. De één kan sneller aangemerkt worden als risico dan de ander. Als overheid kan je hier geen fouten in maken.' Volgens Janssen zijn er daarom controlemechanismes nodig. Dat gaat steeds beter. De gemeente Amsterdam opende het sensorenregister en wetenschappers werken samen met de gemeente in controlegroepen. Janssen zelf is onderdeel van de commissie Persoonsgegevens Amsterdam, die advies geeft over de impact van digitaal beleid op het recht van bewoners.

Toekomst

Maar ook richting de toekomst blijft het belangrijk op te letten. Janssen is dan ook voorstander van de manier waarop in Europees verband naar wetgeving rondom innovaties gekeken wordt. Waarbij overheden zich meer mengen in technologische innovatie dan in de VS of China. 'Ook al kan dat de ontwikkeling van technologie vertragen. Overheden moeten heel goed beseffen wat ze voor informatie in handen hebben. Die vertraging is dus helemaal geen overbodige luxe.'

Wie is Heleen Janssen?

Heleen Janssen is onderzoeker bij het Instituut voor Informatierecht. Als jurist werkte ze voor het Ministerie van Binnenlandse Zaken aan dossiers als de opkomst van nieuwe technologie, de impact van algoritmes op grondrechten en het moderniseren van wetgeving rondom deze onderwerpen.

Klimaatakkoord voor slimme stad

Zonder internet, geen slimme stad. Hoe meer we met elkaar in verbinding staan, hoe meer er mogelijk is. 'Nu de hele samenleving verbinding maakt met elkaar, is het internet van een supersnelweg met een duidelijk begin- en eindpunt, tot de cloud naar een soort vage mist geworden. Waar niemand meer echt verantwoordelijk is', zegt Niels ten Oever, onderzoeker bij het departement Media Studies bij de UvA. 'Vergelijk het met het klimaatprobleem, daar hebben we een gezamenlijk akkoord voor, iets vergelijkbaars moet er ook voor slimme toepassingen komen.'

Gezamenlijke aanpak

Ten Oever organiseerde rondleidingen in het Bijlmer-Arena gebied in Amsterdam, waar onder andere geëxperimenteerd wordt met dashboards die vertellen hoe druk het is op welke plek op welk moment. 'Daarmee wilde ik mensen bewust maken van de datastromen die door de stad lopen, en hoe zij daar onderdeel van zijn. Ze zien zichzelf vaak niet als technische mensen, maar het laatste wat ze ’s avonds én ’s ochtends zien is hun telefoon. Data die voortvloeit uit de beweging van mensen wordt te veel gezien als iets wat niet over het leven van die mensen zelf gaat. Die bewustwording wordt de komende jaren steeds belangrijker. Daar hebben we een gezamenlijke aanpak voor nodig.'

Veilig vooruit

De slimme stad en de technologie die daarvoor nodig is, kent nog geen afgesloten verhaal. Voor gedragsherkenning hebben camera’s nog veel oefening nodig, ook buiten een gecontroleerde omgeving. Om de komende jaren te kunnen opschalen zijn daarom grootschalige experimenten nodig, die rekening houden met issues rondom privacy.

Deep fakes

(Tijdelijke) oplossingen zijn er. Zo traint Cees Snoek gezichtsherkenningstechnologie door gebruik te maken van deep fakes; gezichten die door een computer uit miljoenen losse plaatjes worden samengesteld. 'Daarmee toonden we aan dat je geen beelden van echte mensen nodig hebt om AI te trainen in gezichtsherkenning', zegt Snoek.

Living Labs

Maar voor echte vooruitgang zijn volgens Snoek dan ook grotere bronnen nodig, buiten gecontroleerde omgevingen, in gebieden waar grote aantallen mensen grote aantallen verschillende handelingen kunnen uitvoeren; zogenoemde Living Labs. 'Daarmee kunnen we de potentie van AI voor de maatschappij namelijk pas echt onderzoeken in allerlei sectoren; van onderwijs tot de zorg.'

Voor de bewoners

Die maatschappelijke impact van AI zou volgens Heleen Janssen en Niels ten Oever dan ook leidend moeten zijn in de keuzes voor ontwikkeling en toepassing van technologie. Janssen: 'In een zoektocht naar efficiëntie grijpen we vaak naar techniek, maar efficiëntie moet niet altijd het enige doel zijn.' Ten Oever: 'Een slimme stad hangt niet per definitie vol met technologie, maar is er één die technologie inzet om het beste voor haar bewoners te bereiken.'