Voici une vraie propostion pour sortir de cette crise économique !
Pour une éthique informatique.
L’informatique est un domaine qui s’est imposé aux sociétés sans qu’il y ait eu de réflexion antérieure, de plus elle a évoluée à
une telle vitesse que jamais les hommes ont pu prendre le temps de réfléchir au monde auquel elle nous mène.
Ainsi les progrès techniques rivalisent de plus en plus avec l’intelligence humaine, ce qui est déjà fait pour les parties d’échecs,
commence à être envisagé pour des matchs de football contre des robots, s’est déjà produit pour des démonstrations mathématiques.
La prospective sur la singularité nait de cette course vers l’inconnu :
Article Wikipedia
Ce jour où l’intelligence artificielle dépassera l’intelligence humaine, décrit plus un aveu d’impuissance qu’une proposition
permettant de déboucher sur un peu d’espoir pour les hommes.
Le fait qu’à ma connaissance non seulement très peu d’écrivains de science fiction n’aient prévu et exploré ce domaine, mais qu’en
plus ce ne fut jamais dans les termes de la réalité que nous constatons me laisse aussi penser que l’humanité subit cette évolution
par surprise.
L’aviation, les sous-marins, l’espace, le cinéma, la téléphonie portable, et même le voyage à l’intérieur d’un être vivant humain, etc., milles de nos inventions ont été plus ou moins prévues avant d’exister, mais l’ordinateur et l’électronique ont dépassé toutes les prévisions dans des domaines souvent totalement imprévus.
Dans ce domaine j’ai l’impression que nous avançons de plus en plus vite dans un brouillard de plus en plus épais.
Toutes les professions qui ont un impact réel sur le quotidien des citoyens, sont assermentées pour garantir une certaine moralité vis-à-vis de ces citoyens.
Ainsi le serment d’Hypocrate, est censé maintenir un certain niveau de déontologie dans la profession médicale, bien qu’il soit souvent raillé sous le nom de « serment d’hypocrite ». Des médecins peuvent être même assermentés devant un tribunal.
Tous les policiers jusqu’au garde champêtre, sont assermentés.
Les huissiers et notaires eux aussi au vu de la responsabilité qu’ils prennent comme garant de la loi, car leurs écrit font même force de loi.
Des traducteurs-interprètes peuvent aussi être assermentés, des commissaires aux comptes, certains postes dans les grandes administrations, des officiers et agents ou courtiers des affaires maritimes, de même dans les corps techniques de l’aviation civile.
Cette assermentation est obtenue lors d’une formalité devant un juge du tribunal.
Pour ma part je déplore que nous n’exigions pas de serment de la part de nos responsables politiques, comme cela se fait pour le président des USA, leur influence et leur responsabilité le mériteraient largement. Dire qu’en plus ils ne sont même pas responsables juridiquement de leurs propres discours politiques !
Dans d’autre profession il existe un code de déontologie, signe de la prise de conscience qu’une mauvaise pratique de leurs compétences pourrait générer de graves troubles à la paix sociale.
Ainsi les psychologues, les experts comptables, les auditeurs, les journalistes ont leur code de déontologie.
Il existe dans tous les sites internes une charte de bonne conduite
définissant les bornes à ne pas dépasser…
Quelques inititives proposent une éthique_de_l'informatique.
Ainsi le CIGREF et le SYNTEC ont mis au point une
charte commune: mais après lecture mon avis est que son contenu
ressemble plus à une forme de norme ISO qu’à une vrai charte de déontologie prenant en compte les effets que pourraient avoir leur travail sur la société elle-même.
La déontologie est une obligation morale que chacun s’engage à respecter, c'est-à-dire que les conséquences de nos actes doivent être
réfléchies avant d’agir, or s’il existe un tel code pour les architectes, les journalistes etc. il n’en existe aucun officiellement enseigné aux informaticiens et aux électroniciens.
Après trente années passées dans ce métier, je considère que ce métier est à haute responsabilité, par exemple pour un électronicien,
il est d’une facilité déconcertante de tricher dans une procédure de vote électronique, or cette technique est de plus en plus mise
en place, alors que la fiabilité du résultat est essentiel pour une saine pratique de la démocratie.
(voir vote electronique)
L’importance des tricheries électroniques possible est évidente dans les jeux de « hasard » en électronique ou ce hasard n’a plus
aucun sens dès qu’il est calculé par un ordinateur. Si dans ce cas les conséquences sont purement financières pour ceux qui acceptent
de jouer, il est beaucoup plus grave dans le cas de la rédaction des fichiers de surveillance nationaux ou le hasard d’une erreur ou
bug de programmation peut détruire des familles, des vies.
La seule loi informatique que je n’ai jamais rencontrée ne concernait même pas les ordinateurs qui n’existaient pas encore à l’époque
mais les robots, du moins dans l’imagination qu’on s’en faisait en science fiction. Les fameuses
« lois de la robotique »
imaginées réfléchies et explorées par
l'auteur de science fiction Asimov et leurs déclinaisons dans toutes les situations possibles
démontrant toutes les conséquences possibles de la moindre modification de cette loi y compris l'ordre de priorité essentiel à leur
bonne logique comme Asimov nous le démontre de nouvelles en nouvelles.
Je regrette qu’Asimov n’ai pas eu l’intuition que les robots ne seraient pas l’avenir immédiat mais les ordinateurs, sa loi aurait
alors pris tout son sens.
Il faudrait les adapter à l’informatique et engager les programmeurs à les appliquer par un code de déontologie qu’ils s’engageraient par serment à appliquer tout au long de leurs travaux de programmation.
Voyons ce que cela donne ces lois traduite pour l’informatique, sachant qu’il faut couvrir le champ de la programmation soit
logiciel soit matériel des ordinateurs. Hardware et software étant rassemblés dans le terme logiciel
|
Réfléchissons aux conséquences : Ces lois semblent tout à fait lisibles et toutes les recherches d’Asimov gardent leur logique.
Que deviennent les logiciels de fichages policiers au terme de la première loi ? Que deviennent les logiciels militaires des drones
ou robots d’attaque ? Que deviennent les logiciels de bourse et leurs conséquences désastreuses pour le reste de l’humanité ?
Que deviennent ces barrages par codes secrets, cryptages et autres limitations d’accès au regard de la seconde loi ? Où est
l’autorité d’un homme face à une machine trop protégée de codes d’accès, dans un local surveillé par biométrie, alimentée par
des sources autonomes d’énergie.
Paradoxalement les sécurités informatiques contre les actes des pirates correspondent à l’esprit de la troisième loi, mais cela
la place au premier rang des priorités, il me faut penser à chercher quels sont les disfonctionnements prévu par Asimov
à prévu dans ce cas là.
Les électroniciens, et les informaticiens sont souvent des employés aux services d’intérêts qui n’ont d’autre déontologie que
leur pouvoir, ou leur profits, ils se doivent d’imposer des règles minimum de bonne conduite dans leurs métiers pour que les
conséquences de leurs compétences ne se traduisent par des souffrances réelles des populations.
Je propose qu’il aient la force de s’engager par serment de faire tout ce qu’ils peuvent pour appliquer ces règles de déontologie
et d’appliquer ces lois de l’informatique.
Il existera toujours des notaires véreux ou des comptables peu scrupuleux, mais au moins l’ensemble de la profession possède un
substrat juridique pour d’en démarquer, et refuser de communiquer leurs informations à ces brebis galeuses.
Or en informatique nul ne peut travailler seul, chacun d’entre nous a besoins un jour au l’autre d’un collègue pour résoudre un
problème car le champ de compétence est si vaste qu’il ne peut être contenu que par une collectivité. Même les Hackers ont créé
leurs collectifs ! Avec cette mise ne place d’une déontologie, les exclus rejetés par cette communauté auraient moins de facilité d’action. Pourtant ce n’est pas sur ce thème que l’efficacité serait spectaculaire.
Par contre il y aurait enfin un critère réel qui à long terme pourrait changer pas mal de choses : Telle action est « bien »
telle autre est « mal » quelque soit la prouesse technique mise ne place, un jugement de valeur morale du résultat existerait
enfin dans une production informatique ou électronique.
De la même façon que le jour de l’abolition de l’esclavage je ne suis pas convaincu que cela ai changé grand-chose du jour au
lendemain, mais l’image sociale du négrier a vraiment changée, il est passé de respectable au haïssable ! Or nul n’est insensible
au reflet qu’il reçoit de ses concitoyens.
Créons d'urgence une éthique en informatique. |
Page écrite le 18-04-2010
Depuis j'ai trouvé cet article de la revue-innovations datant de 2015
,
où je relève ces phrases:
"Il est en effet frappant de constater à quel point la question de l’éthique est absente
de la recherche sur les SI"
et cet autre observation :
"Par ailleurs, notons qu’en France l’enseignement de l’éthique reste largement absent des cursus informatiques".
Intervenant Paganel - le 03-05-2010 à 18-51
Le propre des lois est de ramener des cas sémantiquement riches à des principes sémantiquement pauvres. En ce sens, les "lois" d'Asimov n'en sont pas, puisqu'elles font l'inverse (il est très facile d'obéir à un ordre, très difficile de savoir si les conséquences à long terme d'une action ou de son inhibition sont bonnes : si M. Dupont entreprend d'allumer une cigarette ou de boire quelque chose d'alcoolisé, son robot doit-il "restant passif, le laisser exposer au danger" ?
C'est ce qu'a vu Lester Del Rey, grand ami d'Asimov, en le pastichant dans sa nouvelle "Une morale pour Sam".
De façon plus générale, une loi dit "Ne franchissez pas la ligne jaune", et non "Ne franchissez la ligne jaune que si vous pouvez le faire sans danger", bien que cette formulation puisse paraître préférable à tout point de vue pour des êtres raisonnables
Intervenant Horst Grützke - le 29-07-2010 à 19-21
Il est vraiement dangereux de distribuer de telles interpretations absurde sur l'informatique. Dabord l'informatique est un objet technique de l'activité humaine. Une technique qui a renouvellé revolutionnairement les formes et méthodes de la communication. Mais cette technique informatique n'as pas pris conscience humaine - elle reste comme une nouvelle Citroen une machine au service de l'homme. Elle va plus vite que l'ancienne forme de communcation, edt elle va plus vite au moment où l'homme allume l'rodinateur ou le roboter.
L'auteur de cette description de l'informatique mélange - peut-être sans le savoir - l'existence technique l'informatique avec l'information. Celle-ci est aussi un produit de l'homme mais une produit intellectuel. Pour transferer son information à une personne cible, l'homme d'aujourdhui utilise les formes numériques, mais uniquement pour transporter son information plus vite qu'hier lorsqu'il avait utilisé la plume pour écrire et la poste pour faire transporter son information chez le recipient. La nouvlle vitesse n'est pas dangereux, c'est toujours le contenu de l'information, alors l'information qui cause des réactions chez ceux qui recoient cette information.
Alors plus de prudence en expliquant une "nouvelle" notion. Surtout pour ne pas tromper ceux qui le lisent et n'ont pas compris jusqu'aujourd'hui les méthodes de la manipulation des masses par des informations. Une machine informatique ou numérique n'a pas une auto-vie.
Merci de tenir compte cette petite critique... qui est toujours amicale
Intervenant Trazibule - le 30-07-2010 à 19-51
Je comprends tout à fait votre observation. Je n’ai peut-être pas assez séparé les techniques de programmation des contenus qu’elles véhiculent.
Utilisateur assidu d’Internet j’applaudis chaque jour l’existence de ce média fabuleux. Ce que je voulais observer n’est pas cet aspect visible de la communication,
ce sont les techniques même de programmation qui peuvent permettre de filtrer ou de déformer cette information. Des programmes de gestions jusqu’aux applications
militaires, il existe une technicité galopante inouïe qui pourtant semble mépriser la moindre réflexion sur le fonctionnement du monde que cela induit.
Les programmeurs ou électroniciens réalisent des « armes » sociales ou militaires d’une puissance chaque jour plus étonnantes mais oublient allègrement de se
poser les questions morales que n’importe quelle autre profession aurait soulevées. Les architectes, médecins, avocats, se posent ces questions et en déduisent
des règles à ne pas outrepasser, en informatique, rien ! Tout est permis et personne ne dit rien.
Alors oui ce texte peut paraître surprenant car précisément
il vise à provoquer cette réflexion : un programmeur doit aussi se poser la question des conséquences humaines de son programme et non se contenter de voir ce
qu’il lui rapporte ou le seul défit technique.
Intervenant Horst, Potsdam, Editeur du site "Indignezvous.de" - le 02-04-2011 à 18-28
L’informatique est un domaine qui s’est imposé aux sociétés sans qu’il y ait eu de réflexion antérieure...
Alord d'après cette théorie de Trazibule l'informatique s'est imposée à la société....Beaucoup
des gens croient que Dieu a créé le monde et au septieme jours aussi l'homme (et j'espère aussi la femme).
Mais quand est-ce qu'il a créé l'informatique pour l'imposer à la société humaine? Il faut que
Dieu l'avait créer puisque toute seule l'informatique ne pouvait se créer et s'imposer aux
millions de gens vivant dans la société humaine sur la planète...
SWans qu'il ait eu de réflexions antérieure. WOW Dieu est vraiement un maitre qu'il faut donner le Prix Nobel.
Sans réflechir antérieurement l'informatique a pris position des sociétés (je me demande qui sont les différences entre les differentes sociétés humaines?)
Non mon cher Trazibule - homme génie du Midi - l'informatique a été et est toujours le résultat de recherches précieuse des gens bien formé et éduqué. Moi p.e. j'ai du étudier la science de l'information pour comprendre les moyens de communications nécessaires pour garantir qu'une idée une fois pensée et prononcée devienne une information à la fin du chemin de la communication. Il a fallu que j'ai aussi fait des recherches et des études sur la logique des signes disons électriques devenant ainsi électroniques. Et j'avais aussi appris comment maitriser la technique a plus sensible pour transmettres des bits pour qu'à la fin l'information atteind le recepteur par des méthodes beaucoup plus efficaces qu'avant avec le tambour.
Avant d'entrer dans la période du portable il a déjà fallu de chercher des gisements de salicium nécessaire de construire des portables etc.
Il me fait un peu peur d'apprendre que l'informatique desose d'une éthique. Wow, l'homme est maintenant devenue seulement une subjet de l'hinformatique tellement mauvaise ?
Non mon cher ami de Marseille, il faut que tu apprends la science de l'information et de l'informatque pour comprendre qu'elle est devenu un moyen de communication que l'homme puit en utiliser aussi bien pour des bons objectifs que pour des mauvais objectifs. Le portable et le Facebook - produit informatique à l'Internet - ont été utilisé recemment en Egypte pour mobiliser les gens se résister contre leur dictateur Mubarack.
Bravo pour l'intelligeance des gens de l'utiliser l'information à leur benéfice.