Wordt Alexa straks de baas?

Opmars van virtuele assistenten leidt tot ethische problemen

Virtuele assistenten als Alexa en Google Home worden steeds belangrijker, denkt Stanford-hoogleraar Monica Lam. Zij werkt aan een open source-variant die je kan programmeren in gewone taal, en die beter omgaat met privacy en de vrije markt.

‘Er waren in 2008 al mensen, waaronder ikzelf, die de problemen met Facebook voorspelden. Vandaag de dag zijn die problemen eigenlijk niet meer op te lossen: er zitten twee miljard mensen op Facebook en Facebook-apps als Instagram en WhatsApp. Wat valt daar nog aan te doen? Je moet zoiets aan zien komen, en het probleem oplossen voordat het er is.

‘Op dit moment zijn er zo’n vijftig miljoen mensen in alleen al de VS die virtual home assistants als Alexa of Google Home gebruiken. Dat is heel snel gegaan, als je bedenkt hoe nieuw ze nog zijn. Naarmate ze hun gebruikers beter leren te begrijpen, en met meer en meer elektronica kunnen samenwerken, zullen ze nog veel populairder worden.

‘Ze zijn de toegangspoort, en ze bezitten het platform. Dat maakt ze op drie manieren gevaarlijk. Ze bepalen wat je te zien krijgt, ze verzamelen een heleboel persoonlijke data, en als ze die data eenmaal hebben, gaan ze ervan leren en proberen beter te worden. Je kan je bijvoorbeeld voorstellen dat artsen de bloeddruk van hun patiënten doorkrijgen van hun virtuele assistenten. Als genoeg dokters dat doen, heeft de kunstmatige intelligentie een enorme hoeveelheid data. Die kan daar patronen in vinden, en proberen om de bloeddruk te verbeteren. Dan neemt die machine ineens de rol van arts op zich. Die veranderingen zal je overal gaan zien.

Competitie
‘We meten straks mensen met een enorme mate van detail. En de grote vraag is: zijn er slechts één of twee bedrijven die daarvan profiteren, of niet? Zelfs als je die bedrijven vertrouwt met je data is het beter voor de innovatie als er open competitie bestaat.

‘Met mijn collega’s in Stanford werk ik aan Almond, een virtuele assistent die open is: iedereen mag de code zien, iedereen mag het gebruiken, en iedereen mag applicaties of dingen bouwen die met Almond samenwerken. Je bepaalt zelf welke data hij met wie deelt, en je kan hem zelf programmeren.

‘Op dit moment gebruik ik hem vooral om me erop te wijzen als ik vergeet mijn auto op te laden, maar je kan hem van alles laten doen. Eén geïntegreerde messenger, in plaats van allemaal losse. Opdrachten als: “Als de prijs van de Bitcoin onder de tweeduizend dollar zakt, stuur dan een berichtje naar mijn collega’s via Slack” of “Als ik wegga van mijn werk, zet dan thuis de verwarming vast aan.”

Astma
‘Stel je een astmapatiënt voor. Die blaast twee keer per dag in een longfunctiemeter die verbonden is met de assistent. Je kan dan de veranderingen bijhouden, en als de dokter vraagt: “Stuur mij een email als het volume lager wordt dan zo-en-zoveel”, kan jij je assistent toestemming geven om dat te doen. Hij kan jou waarschuwen als de lucht te vies is om te hardlopen, en je ouders waarschuwen als je in het ziekenhuis bent.

‘Dat programmeren doe je in natuurlijke taal. Kunstmatige intelligenties zijn inmiddels ver genoeg om de overstap van de graphic user interface, zoals Windows of het touchscreen van je telefoon, naar de linguistic user interface te maken. Je geeft eenvoudige als-dit-dan-dat-opdrachten, en de bijbehorende code wordt gegenereerd. Het werkt ook omdat mensen snappen dat ze met een computer praten. Je zegt niet “zorg dat het lekker warm wordt”, maar je zegt “zet de verwarming op 21 graden.”

‘We stoppen steeds meer nieuwe dingen in Almond, ook al is de basis eigenlijk nog niet goed genoeg. Ik heb domweg de mensen niet om dat te doen. Ik wil een alliantie met het bedrijfsleven opzetten, en hopelijk hebben zij dan wel de menskracht ervoor. Waarom ze dat zouden willen? Omdat de opkomst van virtuele assistenten nu uit dreigt te lopen op een duopolie. De markt voor huis-assistenten lijkt al verdeeld: op elektronicabeurzen zie je producten die samen kunnen werken met Google Home, de Alexa van Amazon, of allebei, en verder eigenlijk niks.

Linux
‘Die situatie bestond vroeger ook in de netwerkwereld. Alles ging via Cisco, en als je iets wilde veranderen, moest je je bedrijf aan hen verkopen. Een Stanford-collega van mij ontwikkelde toen het zogeheten Software-Defined Network, en allerlei bedrijven, waaronder Google, werkten daar aan mee, omdat in een open markt iedereen kan innoveren. Het feit dat de assistenten nog een nieuw platform zijn, helpt ook. De markt voor besturingssystemen werd jarenlang gedomineerd door Windows, en het open Unix/Linux werd nooit echt groot. Maar toen kwam de smartphone, en die draaien op het op Linux-gebaseerde Android. De Windows Phone legde het af.

‘Ik reken erop dat er genoeg bedrijven zijn die willen concurreren met Amazon en Google. Apple bijvoorbeeld, en grote winkelketens als Safeway. Alexa gaat het niet makkelijk voor je maken om dingen bij een concurrent van Amazon te kopen, per slot van rekening. De rest is samen behoorlijk machtig, en niemand wil onder de plak van die twee bedrijven zitten.’ 

Monica Lam


Prof. Dr. Monica Lam is hoogleraar computertechnologie aan Stanford University, en was in Leiden voor de Ada Lovelace-lezingen, waar het informatica-instituut LIACS belangrijke vrouwelijke sprekers voor uitnodigt. Ze werkt aan virtuele assistenten die je in gewone mensentaal kan programmeren, maar daarnaast is ze ook expert in zogeheten compilers (die code in de ene programmeertaal vertalen in een andere) voor supercomputers en de beveiliging van webapplicaties.

Door Bart Braun

Deel dit bericht:

Voorpagina

Achtergrond

Op losse schroeven

Wat beweegt klimaatontkenners? Socioloog Jaron Harambam, onderzoeker aan de UvA …

Dood door opium

In de negentiende eeuw faciliteerden staten op grote schaal de handel in opium. Maar er …

Wetenschap

Studentenleven

Rubrieken

English page