Loin d’être relégués à la science-fiction, les robots prennent d’ores et déjà part à notre quotidien. On les trouve dans l’industrie comme dans les soins, voire dans la guerre ou dans le sexe. Cette nouvelle normalité soulève une foule de questions éthiques, juridiques et sociétales. Les robots remettent en cause la manière dont nous travaillons et vivons ensemble, mais, plus fondamentalement encore, ils nous interrogent sur ce qui fait de nous des êtres humains. S’ils sont « parmi nous », comment rendre compte des défis qu’ils nous lancent et comment les appréhender ? Cet ouvrage se veut un guide facile d’accès destiné aussi bien aux concepteurs de systèmes robotiques qu’à tous les utilisateurs qui cherchent à clarifier les enjeux éthiques et sociaux de ces innovations technologiques.
Fiche de lecture
Voici un petit livre de 156 pages qui ne peut passer inaperçu auprès des personnes sensibles à la chose robotique. Son intérêt est multiple : vocabulaire simple, formulation claire, accessible aux non-initiés. L’ouvrage fait le point et surtout le tour des problèmes que soulèvent et vont soulever les robots, qu’il s’agisse de leur essence ou de leurs interactions sociales.
D’abord pourquoi cette relative ferveur pour ces drôles de machines ? Le fantasme du robot bon à tout faire n’est pas nouveau. Déjà, les anciens Grecs avaient envisagé de jolies et prévenantes servantes automates. En revanche, ce qui est récent, c’est qu’ils existent bel et bien dans nos cités et qu’ils suggèrent une interrogation sur leur sens parmi nous.
Johan Rochel définit d’abord ce qu’est un robot (et ce qu’il n’est pas, par exemple une inutile machine de Tinguely ou un cyborg, entité mi-vivante, mi-mécanique). Un robot serait une machine fonctionnelle, située dans le monde, qui sent, pense et agit. Il sent grâce à ses capteurs, pense grâce à son IA, agit grâce à sa mobilité.
Bien sûr, « penser » est un terme vague. Il couvre ici « traiter l’information », analyser, calculer. On aimerait savoir (peut-être dans un prochain ouvrage) si le robot peut ou pourra raisonner, réfléchir, délibérer, méditer, rêver, générer des intuitions. Bref, peut-il ou pourra-t-il comprendre ?
L’aptitude à agir des robots leur donne la capacité d’infliger des blessures à leur entourage vivant (contrairement aux outils numériques). D’où la nécessité d’un examen éthique sur leurs performances. Éthique et pas morale (terme plombé depuis mai 68). L’éthique visant des lois universelles sur ce qu’il faut faire et ne pas faire.
Ces engins peuvent-ils donc voler de leurs propres ailes ? On parle de plus en plus de robots autonomes. L’autonomie est un critère quasi-sacré dans notre civilisation. Ne dit-on pas déjà au tout petit : il faut que tu apprennes à devenir autonome ? Cette qualité majeure renvoie à la capacité de prendre une décision sans aucune aide extérieure. Un courant philosophique anglo-saxon soutient que pour choisir, préférer, l’émotion est indispensable. Évidemment, les robots ne sont pas près de s’émouvoir…
Maintenant, le robot doté d’IA dispose-t-il du libre arbitre ? Est-il responsable de ses agissements ? Dans cette perspective, est-il avisé de l’identité, des propriétés des objets qui l’entourent ? Contrôle-t-il son comportement en connaissance de cause ? Peut-il calculer toutes les conséquences de ses actes ? Ainsi, par exemple, afin de ménager l’amour-propre humain, peut-il mentir ?
Si l’on veut feutrer les effets de sa présence, lors d’interactions avec les hommes et les femmes, quelle forme donner à un robot ? Une simple forme fonctionnelle, tel un outil ? Ou une forme plus avenante, l’image humaine ? Le risque dans cette apparence serait de provoquer le sentiment d’inquiétante étrangeté. Celui-ci s’anime à la vue d’un double de soi, hors de contrôle (Freud, Otto Rank et Mori).
Quelles limites imposer aux robots ? À la lumière du droit, où commence leur responsabilité en cas d’accident ? Pour prévenir l’irréparable, ces machines doivent pouvoir accéder à toutes les données, y compris celles liées à la sphère privée. Mais tout le monde consentira-t-il au libre accès à des informations personnelles ? Dans l’affirmative, les robots n’incarneraient-il pas des « espions ambulants » ?
D’un point de vue plus social, quelle menace leur multiplication fait-elle peser sur l’emploi ? Leurs activités n’entraîneront-elles pas une société des loisirs, une société où prospérerait le bénévolat, en réponse à l’appel au contact humain ? Faudra-t-il taxer les robots pour financer la transition sans heurts vers une société dans laquelle le travail rémunéré serait une denrée rare ?
Enfin, quel éclairage, quel cadrage sur les robots la fiction propose-t-elle au public ? Dans les films, les séries, les romans, les nouvelles, l’image dominante de ces créatures de l’intelligence tend-elle à être valorisante ou dévalorisante ? Les robots coopèrent-ils ou rivalisent-ils avec les humains ? Peuvent-ils prendre le contrôle de nos existences ? Nourris, normés par les données, comment traitent-ils les marginaux qui vivent selon des critères hors des sentiers battus ? Quant aux individus dits normaux, quel sens laissent-ils à leur vie de mortel ? Au bout du compte, à cause de leur expansion, l’existence humaine se distinguera-t-elle encore de celle des animaux ?
Reste la fameuse question : l’avenir du robot le destine-t-il à devenir le semblable de son créateur ?
D’abord pourquoi cette relative ferveur pour ces drôles de machines ? Le fantasme du robot bon à tout faire n’est pas nouveau. Déjà, les anciens Grecs avaient envisagé de jolies et prévenantes servantes automates. En revanche, ce qui est récent, c’est qu’ils existent bel et bien dans nos cités et qu’ils suggèrent une interrogation sur leur sens parmi nous.
Johan Rochel définit d’abord ce qu’est un robot (et ce qu’il n’est pas, par exemple une inutile machine de Tinguely ou un cyborg, entité mi-vivante, mi-mécanique). Un robot serait une machine fonctionnelle, située dans le monde, qui sent, pense et agit. Il sent grâce à ses capteurs, pense grâce à son IA, agit grâce à sa mobilité.
Bien sûr, « penser » est un terme vague. Il couvre ici « traiter l’information », analyser, calculer. On aimerait savoir (peut-être dans un prochain ouvrage) si le robot peut ou pourra raisonner, réfléchir, délibérer, méditer, rêver, générer des intuitions. Bref, peut-il ou pourra-t-il comprendre ?
L’aptitude à agir des robots leur donne la capacité d’infliger des blessures à leur entourage vivant (contrairement aux outils numériques). D’où la nécessité d’un examen éthique sur leurs performances. Éthique et pas morale (terme plombé depuis mai 68). L’éthique visant des lois universelles sur ce qu’il faut faire et ne pas faire.
Ces engins peuvent-ils donc voler de leurs propres ailes ? On parle de plus en plus de robots autonomes. L’autonomie est un critère quasi-sacré dans notre civilisation. Ne dit-on pas déjà au tout petit : il faut que tu apprennes à devenir autonome ? Cette qualité majeure renvoie à la capacité de prendre une décision sans aucune aide extérieure. Un courant philosophique anglo-saxon soutient que pour choisir, préférer, l’émotion est indispensable. Évidemment, les robots ne sont pas près de s’émouvoir…
Maintenant, le robot doté d’IA dispose-t-il du libre arbitre ? Est-il responsable de ses agissements ? Dans cette perspective, est-il avisé de l’identité, des propriétés des objets qui l’entourent ? Contrôle-t-il son comportement en connaissance de cause ? Peut-il calculer toutes les conséquences de ses actes ? Ainsi, par exemple, afin de ménager l’amour-propre humain, peut-il mentir ?
Si l’on veut feutrer les effets de sa présence, lors d’interactions avec les hommes et les femmes, quelle forme donner à un robot ? Une simple forme fonctionnelle, tel un outil ? Ou une forme plus avenante, l’image humaine ? Le risque dans cette apparence serait de provoquer le sentiment d’inquiétante étrangeté. Celui-ci s’anime à la vue d’un double de soi, hors de contrôle (Freud, Otto Rank et Mori).
Quelles limites imposer aux robots ? À la lumière du droit, où commence leur responsabilité en cas d’accident ? Pour prévenir l’irréparable, ces machines doivent pouvoir accéder à toutes les données, y compris celles liées à la sphère privée. Mais tout le monde consentira-t-il au libre accès à des informations personnelles ? Dans l’affirmative, les robots n’incarneraient-il pas des « espions ambulants » ?
D’un point de vue plus social, quelle menace leur multiplication fait-elle peser sur l’emploi ? Leurs activités n’entraîneront-elles pas une société des loisirs, une société où prospérerait le bénévolat, en réponse à l’appel au contact humain ? Faudra-t-il taxer les robots pour financer la transition sans heurts vers une société dans laquelle le travail rémunéré serait une denrée rare ?
Enfin, quel éclairage, quel cadrage sur les robots la fiction propose-t-elle au public ? Dans les films, les séries, les romans, les nouvelles, l’image dominante de ces créatures de l’intelligence tend-elle à être valorisante ou dévalorisante ? Les robots coopèrent-ils ou rivalisent-ils avec les humains ? Peuvent-ils prendre le contrôle de nos existences ? Nourris, normés par les données, comment traitent-ils les marginaux qui vivent selon des critères hors des sentiers battus ? Quant aux individus dits normaux, quel sens laissent-ils à leur vie de mortel ? Au bout du compte, à cause de leur expansion, l’existence humaine se distinguera-t-elle encore de celle des animaux ?
Reste la fameuse question : l’avenir du robot le destine-t-il à devenir le semblable de son créateur ?
Lien utile
- Maison d'édition EPFL PRESS, collection Savoir suisse
