Big Data Protectie Hoe maken we de nieuwe Verordening

Big Data Protectie
Hoe maken we de nieuwe
Verordening “
Big Data Proof”?
8 mei VPR
Prof. Lokke Moerel
We shape our tools
and thereafter they
shape us
John Culkin (1967)
2
13-5-2014
Het Collingridge dilemma (1980)
The effects of new technology cannot be easily
predicted until the technology is extensively
deployed
yet once deployed become entrenched and are
then difficult to change
3
13-5-2014
Disruptive innovation
Where electricity extended man's physical power
Information technology will extend man's thinking power
Nicolas Carr, 'The Big Switch' (2013)
4
13-5-2014
Van WWW naar WWC
Like a force of nature, the digital age cannot be denied or stopped
Nicholas Negroponte, 'Being Digital' (1995)
5
13-5-2014
Dataficatie
Count what is countable, measure what is measurable
and what is not measurable, make measurable
Galileo Galilei (1564 – 1642)
6
13-5-2014
Google Streetview
7
13-5-2014
Big data
• Veelheid aan bronnen
• De snelheid van verzameling en opslag
• Het extreme volume
• Echte verschil: nieuwe mogelijkheden om data te analyseren
• Google search
- Zelflerend
- En wordt…
8
13-5-2014
Zelf-denkend…
My team is trying to create an artificial intellect capable of predicting on a
semantically deep level what you are interested in
Director of Engineering of Google
9
13-5-2014
10
13-5-2014
Information technology has changed about everything in our lives. But while we have
new ethical problems, we don't have new ethics
Michael Lotti, 'Ethics and the Information Age' (2009)
11
13-5-2014
Wat is de rol van data protectie?
Personal data is the new oil of the Internet and the new currency of the digital world
Meglena Kuneva, EU Commissioner (2009)
12
13-5-2014
Nieuwe economische modellen
• Gratis diensten betaalt uit advertentieopbrengsten
- Google
- Facebook
- Nieuwssites
• Maar ook voor betaalde diensten zijn data de motor
- Amazon: 35% revenues based on analytics of purchase preferences customers
- Netflix 70%
13
13-5-2014
Waarde van persoonsgegevens
• 2011: totale winst Facebook USD 1 miljard
• 2012: waardering facebook bij IPO USD104 miljard
• Verschil: waarde van de 901 leden data base
Eric Siegel: waarde persoonsgegevens 1 individu: USD 1.200
Vivian Reding: netto waarde alle Europeanen: EUR 315 miljard
14
13-5-2014
Wat is de rol van data protectie?
Data is becoming a new type of raw material
that's on par with capital and labour.
World Economic Forum 'Personal Data: The Emergence of a New Asset Class'
(2011)
15
13-5-2014
Waarom is data protectie “key driver”?
• Als je data hebt kun je gebruiken
- Niet beschermd door i.e.-rechten
- Er is geen “eigendom” van data, er is feitelijk bezit
• Data protectie is regulerend mechanisme geworden van WWW
16
13-5-2014
Onderliggende grondgedachten
• Recht op morele autonomie. De vrijheid om je eigen identiteit te bepalen.
• Informationele schade. Identiteitsdiefstal, creditcard fraude.
• Informatie ongelijkheid. Informatie wordt gebruik voor een beslissing zonder dat de
burger dat weet en daar invloed op kan uitoefenen.
• Informatie onrechtvaardigheid. Informatie verzameld in de ene context wordt
gebruikt in andere context.
17
13-5-2014
De juridische uitdaging
• Big data profiling
- Informatie ongelijkheid
- Informatie ongerechtvaardigheid
- Niet gebaseerd op objectieve feiten (statistische voorspellingen)
- Risico dat je niet van profiel afkomt (stereotyping)
18
13-5-2014
Oplossing wetgevers
Navigeren het Collingridge dilemma
• Verplichten bedrijven en overheden die nieuwe technologie implementeren om de
privacy aspecten al in design stadium te adresseren in het ontwerpstadium
- Privacy by Design, d.m.v. Privacy Impact Assessment.
• Voorspelling is dat er bij deze evaluatie ook etische issues opkomen die moeten
worden geadresseerd en waar we nog geen pasklaar antwoord hebben
- Ook Ethics by Design
19
13-5-2014
Uitsluitend compliance?
• Compliance is niet goed genoeg als je sociale conventies of onderliggende regels
van ethiek schendt.
• Niet verassend is dat sociale concventies nog moeten worden ontwikkeld (laat staan
noodzakelijke regels)
• Verklaring voor feit dat nieuwe big data initiatieven de krantekoppen halen (ook als
die voldoen aan huidige regels)
20
13-5-2014
Belangrijkste ethische issues ICT research
- Toestemming door kwetsbare groepen (kinderen, mensen met schulden, ouderen)
- stigmatisering (genetics, lifestyle)
- discriminatie (bijv. verzekering, arbeid)
- Surveillance technieken (e.g. communicatie binnen gezin)
- data mining and profileringtechnieken
- Toestemming is niet altijd afdoende
21
13-5-2014
Fundamentele ethische principes bij ICT
research
• non-instrumentalisation – individuen mogen niet worden gebruikt als een middel
tot een doel, maar altijd als doel op zich
• non- discrimination – indifviduen verdienen een gelijke behandeling, tenzij er
gerechtvaardigde redenen zijn voor het maken van onderscheid (bijv. gelijke
verdeling van gezondheidszorg budgetten)
• Equity – iedereen moet gelijke toegang hebben tot de voordelen van nieuwe
technologie
22
13-5-2014
Waarom is data protectie moeilijk te reguleren?
4 paradoxen
• Paradox – vertrouwen
• Paradox – beveiliging
• Paradox – controle
• Paradox – more is less
23
13-5-2014
Waarom is data protectie moeilijk te reguleren?
Paradox – more is less
24
13-5-2014
Gedragswetenschappen
• Inertia of the installed base
• Mensen laten de standaard instelling zoals hij is
25
13-5-2014
Gedragswetenschappen
• Teveel en te ingewikkelde informatie
• Voordelen nu en nadelen later
• Als keuze meer inspanning vergt, wordt de weg van de minste weerstand gekozen
• Hoe meer opties er zijn, hoe groter de kans dat mensen geen keuze maken
26
13-5-2014
18.100 woorden
27
13-5-2014
19.900 woorden
AFM
Eerst geloofden we dat meer transparantie en betere productinformatie consumenten
zou beschermen tegen misbruik door financiele instellingen. We realiseren ons nu dat
transparantie niet genoeg is. De consument handelt niet rationeel. Mensen lezen de
verplichte financiele bijsluiter niet; die vinden ze te gecompliceerd.
Dat betekent dat informatie alleen niet genoeg is. We moeten de financiele producten
zelf aanpassen.
28
13-5-2014
Voorstel Europese Privacy Verordening
• meldplicht datalekken
• hogere sancties
• accountability beginsel
US
extra's
EU Richtlijn
•
•
•
Voorstel
EU Verordening
29
13-5-2014
doelbinding
dataminimalisatie
geinformeerde
toestemming
Voorstel
EU Verordening
• versterking consent
• Dataminimalisatie
zelfstandig beginsel
• verbod profilering
speciale categorieen
data
• DPIA vereiste
Waarom deze voorstellen niet werken
• Versterking consent eisen
• Doelbeperking
• Data minimalisatie
• Verbod profilering gebaseerd
op speciale categorieen data
30
13-5-2014
Suggesties voor verbetering
• Toepassen grondslag gerechtvaardigd belang
- voor alle categorieen data (ook gevoelige data)
- alle verwerkingsfasen
- “cost/benefit” afweging
- contextueel
- “mitigerende maatregelen” (cf verenigbaar gebruik)
• Transparantie vereiste voor gemaakte keuzes
• Geven van “control” in plaats van inzage
• Technology Impact Assesment versus Data Protectie Impact assessment
31
13-5-2014
Wat stel ik niet voor….
• Toestemming nooit goede grondslag
• Data minimalisatie nooit van toepassing
- Slechts dat niet altijd van toepassing is
- Is element van proportionaliteitstoets bij gerechtvaardigd belang
• Dat doelbinding nooit relevantie heeft
- Alleen dat niet altijd van toepassing is
- Is element van toetsing grondslag gerechtvaardigd belang
• Dat gevoelige gegevens altijd mogen worden geanalyseerd
- Alleen dat ex-ante voorbod niet houdbaar is
- Afweging van belangen meestal in voordeel individu
32
13-5-2014
Toestemming niet altijd geschikt
• If it is correctly used, consent is a tool giving the data subject control over the
processing of his data. If incorrectly used, the data subject’s control becomes
illusory and consent constitutes an inappropriate basis for processing.
• Appropriate use of Article 7(f), in the right circumstances and subject to adequate
safeguards, may help prevent misuse of, and over-reliance on, other legal grounds.
An appropriate assessment of the balance under Article 7(f), often with an
opportunity to opt-out of the processing, may in some cases be a valid alternative to
inappropriate use of, for instance, the ground of 'consent' or ‘necessary for the
performance of a contract'. Considered in this way, Article 7(f) presents
complementary safeguards compared to the other pre-determined grounds.
33
13-5-2014
Gerechtvaardigd belang toets ook voor gevoelige
data?
• In a similar way, the mere fact that (…) processing of sensitive data is exempted
from the prohibition of Article 8(1) (…) [is] however not necessarily sufficient to also
ensure lawfulness under Article 7, and will require a legal ground such as a contract
(…) under Article 7(b), a legal obligation under Article 7(c), performance of a task
carried out in the public interest under Article 7(e) or an assessment under Article
7(f).
34
13-5-2014
Aard van de data is factor bij maken afweging
(gevoelig of niet)
• Key factors to be considered when applying the balancing test
(…)
ii) Nature of the data
• It would first be important to evaluate whether the processing involves sensitive
data, either because they belong to the special categories of data under Article 8 of
the Directive, or for other reasons, as in the case of biometric data, genetic
information, communication data, location data, and other kinds of personal
information requiring special protection.
35
13-5-2014
Transparantie vereiste voor gemaakte keuzes
• The WP29 also recommends that a recital be added requiring the controller, when
appropriate, to document its assessment in the interests of greater accountability.
Finally, the WP29 would also support a substantive provision for controllers to
explain to data subjects why they believe their interests would not be overridden by
the data subject’s interests, fundamental rights and freedoms.
36
13-5-2014
Afweging niet alleen cost maar ook benefit
• The concept of 'interest' is the broader stake that a controller may have in the
processing, or the benefit that it derives - or that society might derive - from the
processing.
• Factors to consider: the nature and source of the legitimate interest and whether the
data processing is necessary for the exercise of a fundamental right, is otherwise in
the public interest, or benefits from social, cultural or legal/regulatory recognition in
the community concerned
37
13-5-2014
Afweging is contextueel
• The reasonable expectations of the data subject with regard to the use and
disclosure of the data are also very relevant in this respect. As also highlighted with
regard to the analysis of the purpose limitation principle, it is 'important to consider
whether the status of the data controller, the nature of the relationship or the service
provided, or the applicable legal or contractual obligations (or other promises made
at the time of collection) could give rise to reasonable expectations of stricter
confidentiality and stricter limitations on further use.
38
13-5-2014
Data minimalisatie is mitigerende maatregel
Key factors to be considered when applying the balancing test
• Data minimalisation
• technical and organisational measures to ensure that the data cannot be used to
take decisions or other actions with respect to individuals ('functional separation' as
is often the case in a research context)
• extensive use of anonymisation techniques
• aggregation of data
• privacy-enhancing technologies, privacy by design, privacy and data protection
impact assessments
• increased transparency
• general and unconditional right to opt-out
• data portability & related measures to empower data subjects
39
13-5-2014
Geven van “control” in plaats van inzage
• In connection with these safeguards - and the overall assessment of the balance the Working Party wishes to highlight three specific issues that often play a crucial
role in the context of Article 7(f):
- empowering data subjects: data portability and the availability of workable
mechanisms for the data subject to access, modify, delete, transfer, or otherwise
further process (or let third parties further process) their own data.
40
13-5-2014
Technology Impact Assesment vs Data Protectie
Impact assessment
Legitimate interests of the controller / interests or fundamental rights of the data
subject
• The concept of 'interest' is the broader stake that a controller may have in the
processing, or the benefit that it derives - or that society might derive - from the
processing. It may be compelling, straightforward or more controversial. Situations
referred to by Article 7(f) may thus range from the exercise of fundamental rights or
the protection of important personal or social interests to other less obvious or even
problematic contexts.
• The notion of the 'interests' of the data subjects is defined even more broadly as it
does not require a ‘legitimacy’ element. If the data controller or third party can
pursue any interests, provided they are not illegitimate, the data subject, in turn, is
entitled to have all categories of interests to be taken into account and weighed
against those of the controller or third party, as long as they are relevant within the
scope of the Directive.
41
13-5-2014

Download Report