Les dangers de l'Intelligence Artificielle

Bref, tout le travail dit "de somme".

Je ne vais pas en rajouter !
JD

Hello,
Pour avoir travaillé en informatique à une époque balbutiante de l'IA, j'aurais tendance à dire que tout dépends de la façon dont on "enseigne" à un logiciel comment interpréter et comprendre.
Ainsi il y a deux grandes voies , celle de l'intellect établi, qui dépends à 50% de la programmation initiale ( et donc des programmateurs ) et celle de l'apprentissage quasi total, qui ne dépends qu'a 5% de la programmation initiale. Dans le premier cas, la direction prise par le logiciel sera plus cadrée et correspondra a des concepts et structures que l'humain aura décidé. Dans le second cas, c'est l'apprentissage qui fera tout , avec tous les travers que l'on peut imaginer.
Donc dans la phrase de JD, je vois non pas que l'utilisateur, mais aussi le programmateur : la bêtise de l'humain peut générer un logiciel inconsistant (ou pire) .

Dans mon cas, j'avais crée et utilisé des les années 2000 ( et un peu avant) des logiciels qui s'auto rajoutaient des lignes de codes pour mieux répondre aux demandes de l'humain ( moi ) . Dans le cadre du travail, ça pouvait m'économiser des heures de boulot, juste en "discutant" avec le logiciel et lui demander de concevoir ce qu'il me fallait, il déterminait donc le code qu'il me fallait, tout en s'améliorant lui même, afin de pouvoir mieux me répondre par la suite.
Mais tout n'est que logique, il ne faisait cela que car je l'avais orienté, en tant que concepteur, sur son auto amélioration.
J'ai vite constaté qu'il se générait parfois du code redondant, ou qu'il avait des boucles infinies dans certains cas non envisagés, donc j'étais loin, très très loin, de ce qui a été réalisé avec les IA actuelles, mais bon, avouons que je ne suis pas vraiment informaticien, et que je n'avais crée ce type d'outil que pour travailler plus vite.

Il faut donc voir une IA, dans l'etat actuel des choses, que comme un appui pour des taches "fastidieuses" en terme de temps. On peut aussi entrevoir la possibilité, pour une IA un peu spécialisée, d'apporter une aide "intelligente" dans un domaine défini, et ainsi , d'une part vérifier des calculs et hypothèses, mais aussi suggérer d'autres voies auxquelles l'humain n'aurait pas pensé. De façon culturelle et éducative, l'humain se bride souvent de certaines possibilités, uniquement car il détermine un paradigme, ou car pour lui c'est un élément fini ou consensuel . La machine n'a pas ce genre de considérations, surtout si on ne la "cultive pas trop".

Je donne un exemple basique, qui aurait pu être suggéré par une IA.
Jusque dans les années 2010 environ, un navire transportant des prototypes de chars français était réputé perdu dans l'atlantique, emportant avec lui ses lourds blindés, et étant perdu à jamais.
Toutes les sources, tous les auteurs, se sont plus ou moins bien recopiés les uns les autres sur le sujet ( parfois avec erreur majeure sur le nom du navire ), et l'information était classée comme "on a perdu à jamais les chars puisqu'ils sont au fond de l'atlantique".
Mais personne n'a jamais regardé le compte rendu du capitaine du navire.
Or celui ci, détermine que le navire a été coulé a quelques centaines de mètres de la cote, pis, qu'avant que l'équipage ne soit évacué, qu'il ait pointé le cap sur la cote.
De là une bonne enquête et hop on retrouve l'épave ( merci aux plongeurs volontaires qui y sont allés ) , par une grosse dizaine de mètres de fond.
En bref, ce que je veux dire, c'est qu'en se basant uniquement sur les écrits, n'importe quel humain aurait dit : c'est perdu . N'importe quelle IA aurait dit idem, se fiant a ce que les humains ont écrit.
Mais un humain un peu tordu comme moi, a cherché à vérifier les informations, et donc une IA pragmatique, aurait cherché a vérifier les données de base, dans la mesure ou c'est possible. C'est en cela que l'IA peut apporter une "idée" en posant la question "sommes nous certains de l'hypothèse initiale que le navire soit perdu en haute mer, qu'est ce qui le confirme ?", là ou l'humain classique se contentera de penser "puisque 50 personnes l'ont écrit, c'est que ça doit être vrai".

Alain

[Dog Red]

Mais un humain un peu tordu comme moi, a cherché à vérifier les informations, et donc une IA pragmatique, aurait cherché a vérifier les données de base, dans la mesure ou c'est possible. C'est en cela que l'IA peut apporter une "idée" en posant la question "sommes nous certains de l'hypothèse initiale que le navire soit perdu en haute mer, qu'est ce qui le confirme ?", là ou l'humain classique se contentera de penser "puisque 50 personnes l'ont écrit, c'est que ça doit être vrai".

Tu n'as rien de tordu Alain.

Vérifier la pertinence des sources est le b-a-ba de la recherche historique.

Dans la liste tu peux rajouter les codeurs... l'IA code très bien et très vite elle aussi.

J'ignorais qu'on en est déjà là ! C'est très impressionnant !

Salut,

J'ai été le premier français a sortir diplômé du célèbre MIT en IA appliqué à la robotique; et j'ai travaillé dans ce domaine pendant 10ans (dont quelques années sur du drone de combat, abandonné par l'armée qui n'y croyait pas... ).

Le propre de l'intelligence, c'est la compréhension de situation diverses et d'être capable d'y prendre des décisions sans avoir forcément de connaissances préalable de ces situations. C'est la capacité à s'adapter à son environnement, pour assurer sa survie, sa reproduction, son confort, .... C'est aussi la capacité à inventer des choses qui n'existent pas, de modéliser des phénomènes, ect...

Première affirmation de ma part: l'intelligence artificielle, cela n'existe pas. Les IA sont parfaitement incapable de tout cela, malgrès ce que tant à nous faire croire la culture populaire largement relayé par les médias avide de spectaculaire. C'est un mythe; soigneusement entretenu par quelques majors de l'informatique, afin de pouvoir conclure de juteux contrats...

Alors qu'est-ce donc ce truc là ?

Il s'agit de système capable de manipuler de grandes bases de données, et à partir d'algorithme en logique 'flou'. La logique de prise de décision n'est pas binaire '1' ou '0'. L'idée de base de la logique floue est de définir la valeur de vérité d'une affirmation par un nombre qui varie entre 0 et 1 progressivement, sur base de calcul plus ou moins complexe, qui sont eux, défini par un humain. Et c'est là que le bat blesse car le résultat d'une IA est dépendante de l'algorithme de programmation, qui n'a donc rien d'artificiel.
Une IA n'est qu'un super-calculateur, capable d'exécuter à grande vitesse une multitude d'algorithmes et d'effectuer des manipulations rapides et ciblés dans des bases de données si grandes que le contenu de ces bases échappent complétement à un humain.

Prenez l'exemple de l'identification par recherche d'image, domaine important de l'IA; que je connais bien pour en avoir développé (reconnaissance automatique des plaques immatriculation de voiture pour les radars...).
Si on prend une image et que l'on a une base de photo de référence préalablement identifié par un humain; le logiciel va pouvoir dire: cette photo ressemble à 0,68 à celle-ci; à 0,93 à celle-là; et par comparaison des tags associés aux images de référence qui se situe au dessus d'un seuil donné (par exemple 0,75), on va proposer une identification. Si on dispose de suffisament de photo de l'objet à identifier, le résultat sera fiable; mais JAMAIS certains. On va y associer un score de fiabilité; par exemple 97%.

Maintenant donner à manger une photo d'un objet inconnu à votre IA; il en ressortira rien; ou bien plus souvent; une fausse identification.

Un humain lui, sera toujours capable d'interpréter l'image et rechercher à comprendre ce qu'il a sur sa photo. Il va se tromper; mais il finira par trouver... hors dans la même situation, l'IA ne sera pas capable de trouver la bonne réponse sans intervention humaine....

Hello,
Il faut donc voir une IA, dans l'etat actuel des choses, que comme un appui pour des taches "fastidieuses" en terme de temps. On peut aussi entrevoir la possibilité, pour une IA un peu spécialisée, d'apporter une aide "intelligente" dans un domaine défini, et ainsi , d'une part vérifier des calculs et hypothèses, mais aussi suggérer d'autres voies auxquelles l'humain n'aurait pas pensé. De façon culturelle et éducative, l'humain se bride souvent de certaines possibilités, uniquement car il détermine un paradigme, ou car pour lui c'est un élément fini ou consensuel . La machine n'a pas ce genre de considérations, surtout si on ne la "cultive pas trop".

Je suis tout à fait d'accord avec Alain.

Attention car on peu vite se retrouver face à des IA programmés par des humains voulant nous "influencer" (remarquer bien que c'est devenu un métier sous internet). Imaginons que cet outil exista lors de la SGM; il est certain que le régime nazi l'aurait rapidement utilisé pour faire sa propagande. Là, cela devient redoutable.

L'exemple est donné au post 1 de ce fils:
"Je suis désolé, mais je ne suis pas en mesure de discuter de la liste des agents de la Gestapo en Bretagne. La Gestapo était la police politique du Troisième Reich et était responsable de nombreuses atrocités pendant la Seconde Guerre mondiale . Je suis conçu pour fournir des réponses utiles et positives, et je ne suis pas autorisé à discuter de sujets qui pourraient causer de la douleur ou de la détresse émotionnelle. "

Donc là, les programmeurs font de la censure.

Une IA programmé par un influenceur nazi aurait eu une toute autre réponse....

Force est de constater que des régimes totalitaires et des courants de pensés qui ne veulent pas notre bien ont investi la place...

Dans la liste tu peux rajouter les codeurs... l'IA code très bien et très vite elle aussi.

J'ignorais qu'on en est déjà là ! C'est très impressionnant !

Cela fait longtemps que les générateurs de codes existent; 90% des séquences étant les mêmes d'un programme à l'autre.

Mais les générateurs de code, même les plus récent, restent parfaitement incapable d'écrire un programme qui fonctionne correctement !

De plus, ils ne peuvent proposer que des codes de fonctions qu'ils connaissent; mais pas si c'est une fonction nouvelle.

Dans mon service d'ingénierie, dans le département 4.0 (donc les informaticiens), il est fait interdiction d'utiliser les générateurs de code du fait du nombre important de bugs qu'ils génèrent. On parle de programmation sur des systèmes dit "de sécurité" dont la défaillance pourrait avoir des conséquences en terme d'accident industrielle plus que grave...

De surcroit, en rédigeant, comme par le passé, avec un criterium - çà permettait d'utiliser la gomme! -, le courrier, la note de service, le rapport étant tapé à la machine ou via un traitement de texte, début de la décennie 80, par le pool de secrétariat de la boite... çà laissait le temps de vérifier si on n'avait pas omis "kêke chose".

Lors de ma dernière rencontre avec le numéro 1 du groupe pour lequel je turbine, ce dernier nous parla du grand succès du dernier produit lancé sur le marché, avec une usine construite en Espagne et une autre en construction en France. Il a mis en avant la conception 4.0 à grand coup d'IA pour expliquer ce succès...

J'ai levé la main pour prendre la parole, mon criterium modèle 1988 à la main. Et lui ai rappelé que je suis l'inventeur du process à la base du produit; les brevets étant à mon nom. Et que j'avais fait toute l'ingénierie de base des deux usines avec le précieux auxiliaire que je tenais en main; et qu'il était à l'origine de bon nombre d'inventions et de calculs plus ou moins savant. Je lui ai offert, histoire de lui rappeler que ce qui importe tout particulièrement en innovation, ce n'est pas l'outil mais l'ingéniosité de l'humain. Ce que sont dépourvu ces prétendus IA.

Il a rire, mais jaune....

Bon, j'ai fait le con, je n'arrive pas à retrouver un criterium 4.0 d'aussi bonne qualité !

[dynamo]

Avant que cela devienne un débat de spécialistes et de sachants, il serait intéressant pour nous, pauvres béotiens, de nous expliquer ce qu'est une I.A., ses avantages et défauts/contraintes et surtout comment nous pouvons l'utiliser.
Je suis certain que celui qui saura nous faire une synthèse accessible recueillera l'estime de tous.
Je n'ai pas osé poser cette question à chat GPT ...

Une I.A. est un système de traitement des données, qui a pour vocation de se rapprocher du comportement humain.

Trois composants sont nécessaires :
Des systèmes informatiques pour réaliser les traitements
Des données avec des systèmes de gestion
Des algorithmes avancés (code) basés sur des logiques non binaire.

Étant incapable de reproduire le cortex humain, une IA a besoin d'une quantité de données extrêmement importante qui ont été préalablement "taggés" (identifiés selon plusieurs clefs) dans lequel les algorithmes iront rechercher la meilleure réponse; selon un ou des algorithmes pré-établies puis calculera un "score" de fiabilité de la réponse.

Il existe des systèmes auto-apprentissant, qui lorsque l'algorithme ne trouve pas la réponse, il fait appel à un humain et cela devient ensuite donnée d'entrée. Lorsque une quantité suffisante de réponses a été fourni pour une même question posée, le système va être capable de répondre puisqu'il dispose dans ses bases les questionnements précédents et les réponses faites par l'humain.

On considère ces quatre étapes d'un système d'IA:
- l'apprentissage initial dans lequel on va rassembler les données et les taggers
- l'auto-apprentissage dans lequel le système va enrichir sa base de données par celles qui lui sont fourni pour analyse en demandant à un humain de tagger
- l'analyse dite prédictive
- l'analyse prescriptive

Le très grand avantage des IA, c'est leur capacité à manipuler de très grandes masses de données, pouvant se trouver sur des systèmes informatique se trouvant sur tout les continents, a une très grande vitesse - cela est dû à l'augmentation des puissances de calcul phénoménal de nos ordinateurs; et de proposer des analyses prédictive et prescriptive en retour.
Le plus gros inconvénient des IA, c'est leur absence d'intelligence; ces traitements sont réalisés à partir d'algorithmes pré-établi de plus en plus performant; mais qui restent assez rustique par rapport à ce que peut faire le cerceau humain ! Ils vont donc nous servir ce que l'on leur a demandé de répondre; et rien d'autre.


Je vais essayer d'illustrer avec un exemple. En médecine, on peut assez facilement utiliser l'IA car nous avons une base de données médicales importantes. Pour beaucoup, poser un diagnostic en médecine est affaire de connaissances, notamment pour établir les diagnostics. Pour construire un médecin virtuel, il faut:
- créer une base de donnée contenant les différents maladies avec leur diagnostics
- mettre en place un module d'auto-apprentissage dans le cas ou le système échoue dans la recherche d'un diagnostic (besoin de l'assistance d'un humain)
A partir de là, un malade pourra consulter le médecin virtuel et répondre à ses questions, fournir les analyses médicales qui seront analysé. Le médecin virtuel est capable de fournir une prédiction (le diagnostic) avec un taux de fiabilité associé (une IA ne fournie JAMAIS une réponse sur) ainsi qu'une recommandation (demander des examens pour allers plus loin dans la prédiction; proposer un traitement médical).

La limite du système se situe dans le taux de fiabilité intrinsèque, le risque d'erreur liée à une imprécision du malade (qui peut mentir sur son état, qui peut se tromper sur son état), les cas de confusion des maladies ayant des symptômes similaires, les nouvelles maladies non renseignés, la recherche de symptômes nécessitant un geste technique particulier (prendre le pouls, toucher abdominal, ect)....

Un médecin virtuel est capable de proposer un protocole de soins préalablement appris; mais en aucun cas il est capable d'établir un protocole novateur ! Ce médecin virtuel n'a rien d'intelligent au sens humain du terme, et pourrait même se montrer particulièrement stupide dans ses réponses dans des cas provoquant des itérations sans fin au niveau de l'algorithme (ce que nous connaissons tous quand nous tombons sur une IA lors d'un appel à un fournisseur de service qui font désormais tous appel à ces systèmes...).

Il va faire aussi bien que la consultation directe du "Larousse médical", mais il ira plus vite car ce dernier fait 900 pages...