blogspot visitor

19 april 2016

Gaat de lucht wemelen van drones? Rust en privacy staan op het spel



Invasie van de drones
VPRO Tegenlicht, 17 april 2016
[...] In Amerika lagen meer dan een miljoen drones als speelgoed onder de kerstboom. [...] Drones worden niet alleen steeds slimmer, maar ook met de dag goedkoper. Wat gebeurt er wanneer het luchtruim ineens toegankelijk wordt voor iedereen? Voor militairen, terroristen, hobbyisten of pakjesbezorgers. Hoe gaan we om met het feit dat we niet hoeven te weten wie zo'n drone bestuurt en wat de intenties van de vliegende robot zijn? Hoe verandert deze technologische innovatie onze relatie tot elkaar en de wereld om ons heen?
Aldus de intro op de website van Tegenlicht.

Om met de deur in huis te vallen: de techniek-filosoof in de documentaire, Peter-Paul Verbeek (TU Twente), maakt een vreemde denkfout (althans een onjuiste formulering voor de camera). Hij stelt dat de vraag "Willen we drones?" een verkeerde is, omdat techniek nu eenmaal inherent is aan mens-zijn (video vanaf 25:40 - blijf kijken, de stem van Verbeek zet in zonder dat je hem ziet, als voice-over). Maar uit het laatste - mens en techniek vormen een onverbrekelijke eenheid - volgt helemaal niet logisch noodzakelijk dat de mens zich niet de vraag kan en behoort te stellen, of zij een specifieke vorm van techniek in productie wil nemen; laat staan grootschalig, voor de consumentenmarkt of voor meer dan de overheid en hooguit een paar bedrijven met moeilijk te krijgen vergunningen. Oké, wat dat laatste betreft zegt Verbeek op een ander moment wel:
Het grappige [sic, dit tekent de man; K] is dat je opeens ziet dat ons luchtruim, wat nu een publieke ruimte is in zekere zin, steeds meer wordt benaderd vanuit commerciële doeleinden. Bedrijven gaan nu manieren opzetten om zo efficiënt mogelijk met allerlei drones het luchtruim te bezetten, zonder dat ze het vliegverkeer of elkaar hinderen - en dat is wel een heel grote stap! Je zou kunnen zeggen dat dit weer een van de mooie [sic] manieren is om te laten zien dat er impliciete politiek in techniek zit. Want niemand heeft van tevoren bedacht dat we het luchtruim moesten gaan privatiseren - en het is ook maar de vraag of we dat moeten willen. Maar als we daar nu niks aan doen, dan krijgen we inderdaad een situatie zoals we nu op het internet hebben: een publieke ruimte eigenlijk, die wordt gedomineerd door een stuk of tien enorm grote bedrijven; waarbij het heel moeilijk is om te zorgen dat het ook een publieke ruimte blijft [de nadruk door cursivering komt voor mijn rekening; K].
Kennelijk ziet Verbeek 'de drone', net als 'het internet', als een zodanig algemene of essentiële (mijn woorden bij gebrek aan betere die me misschien nog te binnen schieten) technologie, dat het 'niet willen' daarvan filosofisch-antropologisch beschouwd tegen de 'natuur van de mens' zou ingaan. Dat is - ik blijf erbij - een denkfout, niet op de laatste plaats ethisch bezien; maar het schept de ruimte voor een pragmatisch gemeenschappelijk uitgangspunt: als we 'de' drone een plaats 'moeten' geven in onze wereld, welke plaats dan precies? Dat is inderdaad een politieke vraag; die de goegemeente, inclusief de politiek, gedachteloos of moedwillig veel te veel aan 'de markt' overlaat, waarbij alleen wat regelgeving geboden wordt geacht om fysieke ongelukken en economische problemen zoveel mogelijk te voorkomen. Ik hoop dat Verbeek ermee kan instemmen, dat het werkelijk stellen van die politieke vraag, zowel in principe als in praktijk zou kunnen uitkomen op de keuze voor slechts een zeer uitgekiende en gedoseerde - dus allerminst een massale - toelating en inzet van drones.

Het is me vaker opgevallen dat Verbeek - een althans van buiten blijmoedig mens zonder talent voor fundamentele kritiek en al helemaal niet voor cultuurpessimisme - op wat tandeloze mitsen en maren na, eerder als oliemannetje van de industrie opereert, dan als een kritische geest die de politiek scherp prikkelt echte en substantiële vraagtekens te zetten bij bepaalde technologieën[1].

Ook de documentaire als geheel is mij veel te 'technofiel' met betrekking tot wat je gerust de dreiging van een nachtmerriescenario kunt noemen: een luchtruim dat zal wemelen van - deels op den duur met het blote oog niet meer van vogels en insecten te onderscheiden - drones, betaalbaar en bestuurbaar voor iedereen die er zin in heeft. De gevolgen voor rust[2], privacy en veiligheid zijn niet te overzien en in potentie schrikbarend. Gluren en stalken kunnen angstaanjagende vormen aannemen, om maar te zwijgen van nieuwe mogelijkheden tot geweldsmisdrijven; een 'wapenwedloop' op onder meer het niveau van individuele burgers is denkbaar. Maar de uitzending opent doodleuk met een soort reclametekst voor de koopgrage consument: "Technologie stelt de mens in staat dromen te verwezenlijken. En tegenwoordig komt zelf vliegen dichterbij dan ooit." Verbeek hekelt - typerend voor hem - ergens in de uitzending de "haast krampachtige reactie op drones". Maar of ik kijk daar straal overheen, of hij kan niet meer bedoelen dan de ongerustheid van een heel kleine, zo goed als onhoorbare minderheid van politici, beleidsmakers, journalisten, intellectuelen of gewone burgers.

Net als een andere uiterst urgente kwestie, de klimaatcatastrofe, is deze ontwikkeling in de ogen van bijna de voltallige pers een geval van "ach, gebeurt nu eenmaal". Liever bestoken de media ons onophoudelijk met beelden en citaten van de waanzinnigen van de dag die hun deprimerende conflicten uitvechten, dan hun publiek te stimuleren zich radicaal te bezinnen op mega-trends met ingrijpende gevolgen voor onze leefwereld. Dat laatste doet ook deze Tegenlicht nauwelijks, maar de kijker krijgt tenminste wel de gelegenheid zelf meer dan halfhartig stil te gaan staan bij de vraag in hoeverre de 'invasie van de drones' nog kan en moet worden beteugeld.

Foto's: screenshots van VPRO Tegenlicht

Noten

[1] Toegevoegd 22 april: Aan het slot van de documentaire zegt Verbeek:
We zitten op een moment in de tijd dat het heel urgent wordt, echt heel urgent, om goed na te denken over drones, omdat het niet alleen maar interessante vliegtuigjes zijn die allerlei dingen kunnen, maar juist omdat de ontwikkeling in artificiële intelligentie zo snel gaat, dat er een situatie ontstaat dat er een soort autonome 'actoren' in de lucht vliegen die allerlei dingen kunnen doen waar we zelf toch wel de verantwoordelijkheid voor zouden moeten kunnen nemen. In oorlogssituaties: een drone die zelf de keuze maakt of hij iemand moet doden of niet. Het bekende voorbeeld van een zelfrijdende auto [...] die moet kiezen [...] of hij zichzelf dan maar tegen een viaduct parkeert omdat hij anders een oude vrouw doodrijdt ["oude", sic - dit resoneert op een onbewust niveau met de techniek-beaming annex natuurvijandigheid die ik hieronder belicht; K]. Dat laat zien dat elke technologie voor keuzes komt te staan, waar wij mensen ook voor staan, waar wij mensen ook antwoorden voor moeten vinden. Maar omdat we ze nu moeten programmeren in technologie worden ze pas heel erg zichtbaar en wordt het ook heel erg nodig dat wij daar in ethische en ook in juridische zin over nadenken en dat niet alleen maar overlaten aan de ingenieurs, aan de bouwers van de drones, aan de Amazon-dot-com die de boeken gaat bezorgen en alle andere boodschappen met een drone, maar juist dat wij als maatschappij verantwoordelijkheid nemen voor die openbare ruimte die het luchtruim is [cursiveringen door mij; K].
De cursief gezette stukjes zijn typerend voor een denkraam waarin er veel te veel van wordt uitgegaan dat elke technologie als het ware dwingend 'voorgaat' en dat de mens er vervolgens 'ook' een ethische dimensie in 'moet' programmeren. Wederom slaat Verbeek domweg de mogelijkheid over om bepaalde typen technologie niet of hooguit op uiterst beperkte - letterlijk drastisch binnen de perken gehouden - schaal te moeten willen (zo pleitte Google-topman Eric Schmidt in 2013 voor een verbod op particuliere drones). Verbeeks paradigma impliceert dat een 'technologische imperatief' de keuzevrijheid van de mens, met onder meer een morele dimensie, enorm beknot en in een dwangbuis trekt. Daarom mag Verbeeks interpretatie van de mythe van Icarus niet verbazen:
Je moet het goede midden zien te vinden [tussen te laag vliegen (boven de zee) en neerstorten wegens van vocht zwaar geworden vleugels en te hoog vliegen en crashen doordat de lijm (de was) van de vleugels smelt]. Je moet tegelijkertijd wel gewoon doorvliegen: die innovatie gaat gewoon door en even denken van 'wel of niet' dat is er gewoon niet bij, want dan stort je sowieso neer.
Let weer op de cursief gezette fragmenten. De filosofisch uiterst bedenkelijke vooronderstellingen zijn duidelijk: a. "De innovatie gaat gewoon door"; echter dit is volstrekt geen 'natuurwet' is, maar een politieke en ethische keuze - eventueel in de zin van het falen daarvan - wat betreft specifieke innovaties, zeker wat betreft hun doorontwikkeling en blijvende plaats in de maatschappij. Het is een keuze om niet fundamenteel na de denken en stil te staan bij het 'wel of niet' toelaten of toe blijven laten van bepaalde vormen van techniek; b. "Dan stort je sowieso neer"; maar dit is alleen het geval, als je ervan uitgaat dat een zachte landing, om de tijd te nemen te overdenken of het allemaal nog naar wens gaat, of het überhaupt wel een verstandig project was, teneinde eventueel je koers of je intenties of doelen radicaal bij te stellen, is geblokkeerd - in de mythe omdat er een verzwelgende zee dreigt die dit onmogelijk maakt. Deze vooronderstelling behelst een impliciete natuurvijandigheid: de mogelijkheid om bijvoorbeeld op een eiland met vruchtbomen en genoeg zoet water te landen, bestaat niet in de mythe; zoals het denken van Verbeek geen oog heeft voor varianten van (noem het voor mijn part) 'zachte innovaties' waarbij de mens zich primair (ook met een ethisch aspect) in ecologische harmonie met de aardse natuur ontwikkelt, gestuurd door burgers die als gelijkwaardige actoren onder meer 'politiek' handelen, in plaats van via 'harde' technologie die de natuur slechts exploiteert als 'hulpbron' van grondstoffen en die in hoge mate wordt uitgestippeld en beheerst door machtige industriële en commerciële belangen - door corporations die veel weg hebben van sociopaten.

[2] Voor mij als kind was de lucht bij uitstek het oord van de natuur en het onbereikbare: van dromen, wind, insecten en vogels. De sindsdien wanstaltig toegenomen burgerluchtvaart heeft al wat roet in dat eten gegooid. Ik ben blij dat ik tot op betekenisvolle hoogte 'ongereptheid' heb mogen ervaren. Optimisten en 'realisten' zullen opwerpen dat men straks een lucht vol drones net zo in orde zal vinden als men nu contrails en vliegtuiglawaai voor lief neemt. Maar het behoeft geen betoog dat een radicale 'alles went'-overtuiging de deur wijd openzet voor welke 'ontwikkeling' dan ook; het is eigenlijk een variant van de opvatting dat de feitelijke wereld hoe dan ook 'de best mogelijke' is en sluit een dystopische toekomst als het ware per definitie - maar geheel ten onrechte - uit. 
De stap naar het door talloze bedrijven en burgers 'bezetten' - Peter-Paul Verbeek gebruikt dit woord, al dan niet onwillekeurig - van de lucht is mij persoonlijk een gruwel. De associatie met en beleving van echte ruimte - het waaien van de geest, het wonder van de vliegende dieren - lijkt mij dan definitief de nek om gedraaid. 'Lucht' wordt in ontstellend doordringende en omvattende mate tot 'luchtruim', als dat van een schip, bedoeld voor 'transport' van 'lading'; en tot 'medium' voor vermaak, toezicht en manipulatie.
Het grote verschil met internet - tenminste zolang dat niet daadwerkelijk uitgroeit tot Internet der Dingen, een potentiële mega-trend op zich - is dat we fysiek in de buitenlucht verkeren. Je kunt de buitenlucht onmogelijk 'uitzetten' en naar 'buiten' gaan om niet te worden omzwermd door rondvliegende objecten, zoals de pc of telefoon (nog) wel een uitknop heeft om je te bevrijden van dataverkeer en het ervaren van ruimte en rust mogelijk te maken. Dit maakt het scenario van de bezetting van de lucht met drones voor mij tot iets veel beklemmenders dan de groei van internet (tot dusver). Het element dat zich nog aardig onttrekt aan de menselijke technotoop, dreigt er een integraal onderdeel van te worden: 'ingenomen' door de technologische totaliteit - alsof er een deksel op die pan wordt geduwd.
Daarbij is het een wrang gegeven, dat door toedoen van de mens - de industriële landbouw en het gebruik van pesticiden, in combinatie met klimaatverandering - de bij dreigt ten onder te gaan[*], terwijl de vliegende robotjes oprukken. Drone betekent in het Engels ook 'dar' (mannetjesbij). 'Dar' komt etymologisch zelfs van het Middelnederlandse woord 'drone', met als Germaanse wortel een woord dat 'zoemen' of 'dreunen' betekende.

[*] Update: naar te hopen valt klopt het dat er tekenen zijn dat maatregelen tegen deze neergang van de bij, zoals het verbieden van bepaalde landbouwgiffen, effect lijkten te sorteren.
Update mei 2018: 'Wageningen: studie over insecten klopte toch' (De Gelderlander, Rob Berends, 3 mei 2018). "De afname van het aantal insecten is wel degelijk zorgwekkend. Een alarmerende studie van de Radboud Universiteit uit Nijmegen zat goed genoeg in elkaar om tot die conclusie te komen."
Later toegevoegd:

Zie ook het knappe en uitvoerige drieluik over drones van Erik Bouwer op technologie-blog Toii:

Deel 1: Wat doet die drone boven mijn hoofd?
13 augustus 2015 

Deel 2: Overheidsbeleid vergroot kans op ongeluk met drones
25 augustus 2015 

Deel 3: Drones voor de samenleving, drones tegen de samenleving
31 augustus 2015

Overtreding drones mogelijk hoger bestraft
Trouw / ANP, 22 april 2016

[...] Behalve voor registratie pleiten [...] [luchtvaartmaatschappijen] voor een verplicht brevet [...]. Ook moeten er van hen meer handhavers komen en willen ze dat er technische beperkingen worden ingebouwd, zodat drones niet bij luchthavens of boven een bepaalde hoogte kunnen vliegen.

Drones: de herontdekking van het luchtruim
Door Erik Bouwer, Toii, 1 februari 2016

Google-topman bepleit verbod op particuliere drones 
Joop.nl, 12 april 2013

Eric Schmidt over nieuwe bedreigingen voor het privé-leven. Zoekgigant staakte zelf gezichtsherkenning. Vrees voor 'democratisering' militaire middelen

Dit gebeurt er als er een drone met 50 km/u in je gezicht vliegt
Dutch Cowboys, 18 april 2016

[...] Gelukkig hebben onderzoekers dit niet op een echt mens getest, want dan had zijn gezicht er niet meer goed uitgezien. De onderzoekers testten de kracht van draaiende propellers van een drone op een stuk varkensvlees.

Passagiersdrone EHang 184 mag getest worden
Drones.nl, 7 augustus 2016

Airbus to Test Self-Flying Passenger Drone in 2017
GovTech.com, 19 augustus 2016

Revealed: Amazon's Creepiest, Most Militaristic-Sounding Plan Yet
Alexandra Rosenmann, AlterNet, 30 december 2016

[...] In April, Amazon filed a patent for their "aerial fulfillment center," an "airship" from which drones descend to deliver your packages [...].

'Een libelle-drone is de dood in de pot voor de privépersoon'Door Rob Schouten, Trouw, 7 mei 2018

En m'n blogs:
VS: Spionerende drones in steden en dorpen op komst
Smart Cities en de privatisering van de openbare ruimte
Permanente surveillance vergiftigt onze vrijheid
Kanttekeningen bij het Internet of Things
VS: totale controle door nieuwe wapensystemen?
Autonome killer robots op komst: tijd voor verzet van burgers

4 opmerkingen:

  1. Ik zie je punt maar ik denk dat je Verbeek hier niet goed begrijpt. Zijn punt is (en dat kan hij in het vluchtige format van Tegenlicht niet helemaal uitleggen) dat een technologie die eenmaal bestaat niet ongedaan gemaakt kan worden. Op het moment dat de atoombom werd bedacht zit er voor de mensheid niet anders op dan om daar mee om te leren gaan. Ieder regime kan op dit moment in principe een atoombom maken en die ook gebruiken. Het is echt een kwestie van tijd of terroristen hebben dit wapen of een eenvoudiger versie met radio-actief afval. Dit is geen optimisme van Verbeek maar realisme.

    Het mooie van technologie is wel dat ze vaak zelf met de tegenoplossingen komt. Bruno Latour noemt als voorbeeld de verkeersdrempel, oorspronkelijk bedoeld om de snelheid te matigen. Het gevolg zijn auto’s met een steeds betere vering waardoor de effectiviteit van de drempel afneemt. Soortgelijke acties zie je op internet met virussen en virusbeschermers. Er ontstaat als het ware een technologische wedloop waarbij iedereen de eigen ruimte zo goed mogelijk verdedigt.

    Moet de overheid dan niets doen? Ik denk niet dat Verbeek van mening is dat het gebruik van drones niet geregeld moet worden. Tegelijkertijd is de aanschaf van de technologie zo laagdrempelig dat het hanteren van regulering praktisch onmogelijk zal zijn. Zelf een speciale politie-afdeling om drones te bestrijden zal het afleggen. Ik vergelijk voor het gemak met de opgevoerde brommer. In mijn jeugd had iedere brommer bezitter een opgevoerde brommer en daarnaast vaak slimme kraantjes om de politie te misleiden. Waar Verbeek ophoopt denk ik is net als bij de virusbeschermer een technologie waarmee ieder individu zijn eigen ‘luchtruim’ (zeg 300 meter boven je huis) kan beveiligen. Ik kan zoal iets bedenken wat zal werken. Dan ontstaat er weer een technologische wedloop die uiteindelijk door het creatiefste (en vaak ook rijkste) brein zal worden gewonnen.

    In feite is de hele technische wapenwedloop een evolutie. Waarbij technieken elkaar versterken en verbeteren totdat de superieure techniek overblijft. Alleen het atoomwapen hangt als een zwaard van Damocles boven de mensheid. We kunnen het alleen met een beroep op onze eigen angst in toom houden. Daarom zeiHeidegger 'alleen een God kan ons nog redden’.

    BeantwoordenVerwijderen
  2. Bedankt voor je reactie. Ik ben er niet helemaal zeker van dat jouw interpretatie van de woorden van Verbeek spot on is. Het zou dan toch erg voor de hand hebben gelegen dat hij gewoon iets had gezegd als: "De drone is nu eenmaal uitgevonden en al in vele soorten en maten in productie genomen, daarom is de vraag 'Willen we drones' achterhaald, die loopt achter de feiten aan."
    Maar goed, alleen Verbeek zelf zou kunnen ophelderen of mijn vermoeden klopt dat hij de drone ziet als een ‘essentiële vorm’ van techniek, die filosofisch-antropologisch beschouwd tot het wezen van de mens behoort - zodat zijns inziens de vraag stellen of de drone wenselijk is, een soort categoriefout behelst, net zoiets als de vraag stellen of we onze handen eigenlijk wel willen, of onze frontale hersenen.

    Zoals ik in m’n stukje probeer aan te geven, staan verschillende antwoorden op die vraag een gemeenschappelijk uitgangspunt voor de fase waarin we nu zitten, echter niet in de weg. Het is nu nog denkbaar en praktisch mogelijk (hoewel helaas ongetwijfeld weinig kansrijk) dat er een serieus maatschappelijk-politiek debat op gang komt over in hoeverre we de lucht om ons heen willen vrijwaren van drones – met als mogelijke uitkomsten bijvoorbeeld: verbod op drones die lijken op dieren (in het bijzonder vogels en insecten) op zeer specifieke toepassingen na, zoals het wegjagen van vogels bij vliegvelden; verbod op drones met een doorsnede kleinen dan circa 20 cm of groter dan 40 cm voor particulieren; permanent verbod op vliegen door particulieren in de bebouwde kom; alleen toestaan van vliegen door particulieren op afgebakende terreinen buiten de bebouwde kom; en door bedrijven slechts langs gemonitorde ‘luchtwegen’ (vergelijk hoe luchtverkeersleiders vliegbewegingen in de smiezen hebben); verplichte vergunning met ‘nummerbord’ voor elke drone – zowel particulier als commercieel – om zicht te houden op aantallen en ouderdom en deze zo nodig op een of andere manier in de hand te kunnen houden; verplichte afscherming om de propellers ter voorkoming van verwondingen; verplichte fluisterstille en energiezuinige motoren, enzovoorts. (Deze ideetjes zijn rijp en groen, deels uitvoerbaar en deels misschien niet, het is om de gedachte te bepalen.)

    Mijn hoop is dat mensen als Verbeek zich actiever en ook nadrukkelijk wijzend op risico’s en reguleringsmogelijkheden (ook in technische zin), zullen inzetten voor een dergelijk debat over drones – maar ook over bijvoorbeeld ‘de volmaakte mens’ (in het bijzonder de toepassing van gentechnologie), Slimme Steden en het Internet der Dingen.

    BeantwoordenVerwijderen
    Reacties
    1. Om een misverstand te voorkomen: ik wil niet de indruk wekken dat ik het werk misken dat Verbeek al verzet in de zin die ik hierboven schets.

      Verwijderen
    2. Een verplicht vliegbrevet en ingebouwde bereik-beperking zijn ook een uitstekend idee. Luchtvaartmaatschappijen pleiten daar inmiddels voor.

      Verwijderen