3_Éthique de l’informatique_questions.pdf
James Dunne, rédacteur technique chez Qosmos entre 2005 et 2012, travaillait sur la rédaction de guides techniques pour des logiciels d’analyse du trafic internet (technologie de Deep Packet Inspection - DPI). Cette technologie permet une surveillance approfondie des communications numériques, souvent utilisée à des fins de censure ou de contrôle.
En 2011, grâce à des fuites dans la presse, il découvre que certains des projets sur lesquels il a travaillé étaient destinés aux régimes dictatoriaux de Mouammar Kadhafi (Libye) et de Bachar al-Assad (Syrie), connus pour leurs violations des droits de l’homme. Profondément choqué, il décide en 2012 de transmettre des documents confidentiels à Mediapart, à la Fédération internationale des droits de l’homme (FIDH) et à la justice française.
Malgré son licenciement pour "faute lourde" en 2012, il gagne son procès aux prud’hommes en 2015, ainsi qu’un procès en diffamation en 2017. Ces victoires judiciaires confirment la véracité de ses accusations concernant l’implication de Qosmos dans la surveillance de masse pour ces régimes. James Dunne a agi par conviction morale, s’inspirant de principes de philosophie et de désobéissance civile, malgré les conséquences personnelles et professionnelles.
<aside> ❓
Comprenez-vous la réaction de James Dunne de révéler à la presse et à la justice les agissements de son employeur ? Argumentez votre réponse – vous pouvez la nuancer.
</aside>
De son point de vue, grandement influencé par des lectures philosophique comme Le Journal De Thoreau (le père de la désobéissance civile), travailler pour une entreprise commercialisant des outils de surveillance en partie a destination de régime dictatoriaux viole ses principes moraux. Il s’est alors senti obligé de dévoiler ces agissements pour respecter son éthique.
Voici ce qu’expliquait en juin 2018 le mathématicien français Marc Schoenauer, spécialisé dans l’intelligence artificielle depuis plus de 25 ans :
Il est impossible de s’assurer que les algorithmes œuvrent en faveur de notre bien-être.
En effet, « tout dépend de qui s’en sert et comment. Il est primordial que tout le monde ait conscience de cette forme de versatilité liée aux systèmes d’IA : un même algorithme peut aujourd’hui engendrer de bonnes choses comme de mauvaises, selon les données qui le nourrissent ou l’utilisation qui en est faite à terme. Si l’on prend l’exemple de la reconnaissance des images : en schématisant (car ce ne sont pas les seuls algorithmes en jeu ici), cette fonctionnalité permettra aux véhicules autonomes de diminuer le nombre d’accidents sur nos routes. Mais cette même fonctionnalité permet également aux autorités chinoises, pour rester dans la caricature, lorsqu’une personne traverse en dehors des clous, d’afficher sa photo, son nom et de le donner en pâture à la vindicte populaire en tant que “mauvais citoyen”. Un même algorithme pour deux utilisations différentes. »
<aside> ❓
Quel dilemme éthique concernant ceux qui travaillent sur la reconnaissance des images met en avant cette explication ? Qu’est-ce que cela implique par rapport à un certain nombre de problèmes éthiques ?
</aside>
On ne peut pas savoir à l’avance l’usage qui sera fait d’une telle technologie. Certains de ces usages seront antidémocratiques, liberticides et entameront grandement le droit à la vie privée de la population.
<aside> ❓
Vu cet exemple concernant la reconnaissance des images, celui de James Dunne et celui d’Edward Snowden (cf. note 3), comment définiriez-vous ce qu’est l’éthique ?
</aside>
Morale
La morale oppose – et donc permet de différencier :