From artificial intelligence to virtual personhood: Emergence of a legal entity ?;De l'intelligence artificielle à la personne virtuelle: Émergence d'une entité juridique ?

Droit et Societe

Volumn 49, Issue 3, 2001, Pages 847-871

  Bourcier, Danièle ^a  

^a UNIVERSITÉ PARIS OUEST NANTERRE LA DÉFENSE   (France)

Author keywords

Artificial intelligence; Cyberworld; Individual's rights; Personal data; Virtual person

Indexed keywords

EID: 44449124957     PISSN: 07693362     EISSN: None     Source Type: Journal    
DOI: 10.3917/drs.049.0847     Document Type: Article

References (58)

1. Isabelle KRZYWKOWSKI (sous la dir.), L'homme artificiel : Hoffmann, Shelley, Villiers de l'Isle-Adam, Paris, Ellipses, 1999.
2. Voir, à ce propos, Philippe BRETON, À l'image de l'Homme. Du golem aux créatures virtuelles, Paris, Seuil 1995.
3. John SEARLE, « Minds, Brains and Science », Behavioral and Brain Sciences, 3, 1980 (en français : Du cerveau au savoir, Paris, Hermann, 1985) ; et ID., La redécouverte de l'esprit, Paris, Gallimard, 1992.
4. Le mot « avatar » désigne les différentes incarnations du dieu Vishnou. Le premier auteur de science-fiction à parler des avatars est l'auteur de Snowcrash : Neil STEPHENSON.
5. Gilles DELEUZE, Différence et répé tition, Paris, PUF, 1968.
6. On dit aussi « agile entreprise » dans la mesure où elles sont censées répondre à une demande précise et ont besoin de structures changeantes. Voir Denis ETTIGHOFFER, L'entreprise virtuelle ou les nouveaux modes de travail, Paris, Odile Jacob, 1992.
7. Howard RHEINGOLD, The Virtual Community : Homesteading on the Electronic Frontier, Reading (Mass.), Addison-Wesley, 1994.
8. Steven LEVY, Artificial Life : The Quest for a New Creation, New York, Pantheon Books, 1992.
9. Pierre LEVY, Qu'est-ce que le virtuel ?, Paris, La Découverte, 1995.
10. G. MARX et N. REICHMAN, « Computer as Informants », Newsweek, août 1983.
11. A. TOUSSAINT, « Le recrutement est-il sous l'empire de sciences, para-sciences et pseudo-sciences ? », Semaine sociale, Lamy, 460, 12 juin 1989.
12. Claude LEVY-LEBOYER, Évaluation du personnel. Quelle méthode choisir ?, Paris, éd. d'organisation, 1990.
13. Voir chapitre préliminaire, note 3.
14. Michael J.A. BERRY et Gordon LINOFF, Data Mining. Techniques appliquées au marketing, à la vente et aux services clients, Paris, Inter éditions, 1997, p. 81.
15. La plupart des navigateurs proposent désormais une fonction pour désactiver les cookies, sous la pression d'organismes de protection de la vie privée. De grands constructeurs ont utilisé la technologie du mouchard comme INTEL, avec le processeur Pentium III doté du PSN (Processor Serial Number). Le PSN, à la différence du IP, n'est pas modifiable : il peut servir à répertorier les habitudes et les goûts des internautes. Microsoft a tenu longtemps secrète l'existence de son GUID (Globally Unique Identifier) dans Windows 98. Ce numéro devait servir au départ à identifier ses produits. Le GUID, en réalité, permettait d'envoyer à Microsoft les données personnelles ainsi qu'une liste du contenu du disque dur... Enfin, il existe des programmes appelés « Applets Java » ou « Contrôle Active X » : attachés aux pages web, ces petits programmes viennent s'exécuter sur l'ordinateur de l'internaute. Certains récupèrent les adresses des utilisateurs à leur insu. On parle même de cheval de Troie.
16. Danièle BOURCIER, Lucien MEHL et Henriette MIGNOT-MEHL, « Interactions des aspects juridiques et des aspects techniques des systèmes experts », Cahiers Lamy du droit de l'informatique, 25, avril 1991.
17. Jean-Claude VIGNAL, « Faire des systèmes : ceci n'est pas une pomme », in Marc SCHAUSS (sous la dir.), Systèmes experts et droit, Bruxelles, Story-Scientia, 1989.
18. Directive 85-374 du 25 juillet 1985.
19. Jean LAFITTE, Réflexions sur la science des machines [1932], Paris, Vrin, 1972.
20. Jean GASNAULT, « Les problèmes juridiques suscités par les systèmes experts ou d'aide à la décision », in Marc SCHAUSS (sous la dir.), Systèmes experts et droit, op. cit.
21. Jean-Paul CAILLOUX, « La responsabilité des auteurs de systèmes experts », in Danièle BOURCIER, Patricia HASSETT et Christophe ROQUILLY (sous la dir.), Droit et intelligence artificielle. Une révolution de la connaissance juridique, Paris, Romillat, 2000.
22. Les tests de certains systèmes prendraient 300 000 ans.
23. Marshal S. WILLICK, « L'intelligence artificielle : les approches juridiques et leurs implications », Cahiers STS (CNRS), 12, 1986 : « Ordre juridique, ordre technologique », p. 54.
24. Dan BOBROW, New York Times Magazine, 14 décembre 1980, p. 62.
25. A contrario, la substitution (et non plus la simulation) de fonctions cérébrales par des machines artificielles ne peut avoir de répercussions sur le statut juridique de celui qui « utilise » ces machines pour remplacer les parties lésées : « Il ne sera probablement pas facile d'expliquer aux personnes concernées qu'elles ne peuvent plus être considérées comme des êtres humains pour la simple raison qu'elles "contiennent trop d'éléments matériels". » L'exemple pris était celui de J. Brady (garde du corps de R. Reagan) qui avait reçu une balle en pleine tête et perdu de la matière cervicale en grande quantité. Comme il a survécu, il a gardé tous les attributs de la personnalité juridique tout en étant assisté de composants artificiels.
26. Marvin MINSKY, « The Problem and the Promise », in Patrick H. WINSTON et Karen A. PRENDERGAST, The AI Business : The Commercial Uses of Artificial Intelligence, Cambridge (Mass.), MIT Press, 1984.
27. Voir EDIJUSTICE, Charte et organisation, définition.
28. Un moteur de recherche est un logiciel de recherche d'information à l'aide de mots clés (autrement appelé logiciel documentaire).
29. Rose DIENG, Olivier CORBY, Alain GIBOIN et al., Méthodes et outils pour la gestion des connaissances, Paris, Dunod, 2000, p. 174-184 : « L'acquisition des connaissances selon la méthode AGENTCO consiste alors à identifier les agents humains adéquats impliqués dans la résolution de problèmes, à les représenter sur papier ou dans un outil d'acquisition par des agents virtuels, et à déterminer progressivement les caractéristiques individuelles et sociales de ces agents virtuels. »
30. Certains logiciels se conduisent comme de véritables enquêteurs automatiques : des filtres d'images (lookatup.com) se substituent à la vision humaine en détectant des images pornographiques sur le web.
31. Cas cité par Marshal WILLICK, « Robots Kill Man », United Press International News Bulletin (Tokyo, Japan), 8 décembre 1981 (voir note 73).
32. Jean CARBONNIER, Droit civil. Introduction, Paris, PUF, 1996 p. 286.
33. Éric CAPRIOLI, « Consentement et systèmes informatiques », in Danièle BOURCIER, Patricia HASSETT et Christophe ROQUILLY (sous la dir.), Droit et intelligence artificielle, 2000, op. cit.
34. Jerôme HUET, « Aspects juridiques du commerce électronique : approche internationale », Petites Affiches, 26 septembre 1997.
35. Cette loi est en cours de transposition. Un projet no 3250 a été déposé à l'Assemblée nationale le 18 juillet 2001 et sera examiné en janvier 2002. Nous tenons compte des nouvelles numérotations dans notre commentaire, mais celles-ci sont susceptibles d'être modifiées lors du débat parlementaire.
36. On assiste aux mêmes débats lorsqu'il s'agit d'automatiser les barèmes en matière de fixation de pensions alimentaires. Voir Lettre d'information de la mission de recherche Droit et Justice, 10 juillet 2001, p. 11-12.
37. Procédures de télétransmission de feuilles de soins électroniques, cartes de professionnels de santé, informatisation des cabinets médicaux, cartes électroniques individuelles (carte VITALE), répertoire national interrégimes des béné ficiaires de l'assurancemaladie.
38. Philippe LEMOINE, « L'identité informatisée », in Les enjeux culturels de l'informatisation, Paris, La Documentation française, 1980.
39. des sites ne sont pas déclarés à la CNIL, 52 % ne précisent pas le lieu où s'exerce le droit d'accès... (Enquête Ipsos-Mediangle et EMAP, mai 2000 : évaluation de 100 sites de commerce électronique).
40. Philippe QUÉAU, Le virtuel : vertus et vertiges, Seyssel, Champ Vallon, Bry-sur-Marne, Institut national de l'audiovisuel (INA), 1993 ; Grigore BURDEA et Philippe COIFFET, La réalité virtuelle, Paris, Hermès, 1993 ; Howard RHEINGOLD, La réalité virtuelle : quand l'illusion a toutes les apparences de la réalité, Paris, Dunod, 1993.
41. Étienne DUBUISSON, La numérotation des personnes physiques, thèse Université Paris XI, 1994.
42. Herbert BURKERT, « Une expérience positive de solution juridico-technique : le projet OSIS », in COMITÉ EUROPÉEN LEX INFORMATICA MERCATORIAQUE (CELIM), Les transactions internationales assistées par ordinateur, Paris, Litec, 1987, p. 139-152.
43. Ethan KATASCH, The Electronic Media and the Transformation of Law, New York, Oxford University Press, 1989.
44. Pierre MACKAY, « L'échange de données informatisées (EDI) et l'administration de la preuve », in Danièle BOURCIER et Claude THOMASSET (sous la dir.), L'écriture du droit face aux technologies de l'information, Paris, Diderot, 1996, p. 319-337.
45. Le terme de création apparaît dans la plupart des définitions techniques officielles ; voir loitype de la CNUDSI sur le commerce électronique : le terme « système informatique » désigne « un système utilisé pour créer, envoyer, recevoir, conserver, ou traiter de tout autre manière des messages de données », Publication des Nations Unies, no 97-2270, Vienne, mai 1997.
46. On ne reprendra pas le débat qui a opposé John Searle et Dan Demmett sur la conscience et l'intentionnalité. Pour Searle, nous avons le privilège humain du sens, donc nos artefacts n'ont qu'une intentionnalité dérivée. Pour Demmett, « la doctrine de l'intentionnalité originelle est la thèse selon laquelle, alors que certains artefacts nous doivent leur intentionnalité, nous avons une intentionnalité originelle qui n'est pas dérivée. Aristote disait que Dieu est le Moteur non mû et cette doctrine annonce que nous sommes des Signifieurs non signifiés. Je n'y ai jamais cru et je m'y suis toujours opposé » (Douglas HOFSTADTER et Daniel DEMMETT, Vues de l'esprit, Paris, InterEditions, 1987).
47. Gilles CHAZAL, Le miroir automate. Introduction à une philosophie de l'informatique, Paris, Champ Vallon, 1995 p. 68.
48. Je souligne.
49. Idem.
50. CONSEIL D'ÉTAT, Internet et les réseaux numériques. Rapport, Paris, La Documentation française, 1998, p. 241.
51. Fred SCHAUER, « Internet Privacy and the Public-Private Distinction », Jurimetrics, 38, 1998, p. 564 : « The increasing pervasiveness of the Internet may inform the society's general understandings of database privacy, both within and without the Internet. Thus, increasing awareness and dependence on the Internet may change our understandings of privacy itself. »
52. Simson GARFINKEL, Database Nation : The Death of Privacy in the 21st Century, Beijing, Cambridge, O'Reilly, 2000.
53. C. Stone en 1972 propose de reconnaître un statut aux arbres (Christopher STONE, « Should Trees Have Standing ? Toward Legal Rights for Natural Objects », South Carolina Law Review, 45, 1972) ; L. Solum se demande en 1992 si une intelligence artificielle peut devenir « trustee » (Lawrence B. SOLUM, « Legal Personhood for Artificial Intelligence », North Carolina Law Review, 70, 1992, p. 1231-1287).
54. J. BROWNING, « I encrypt therefore I am », Wired, novembre 1997.
55. Pierre LEVY, 1995, op. cit., p. 19.
56. Howard RHEINGOLD, 1994, op. cit.
57. Rose DIENG et al., 2000, op. cit., p. 174.
58. http ://www.w3.org/TR/1998/NOTE-P3P10-principles.