Intelligence artificielle et infox. Réflexion 5.

Une Intelligence Artificielle par nature incapable de repérer les infox ( mot reconnu par l'Académie française pour traduire le terme anglo-saxon de "fake news") ne mériterait-elle pas plutôt de s'appeller Imbecilité Artificielle?

Avant de répondre à cette question, commençons d'abord par préciser ce qu'est l'imbecilité humaine:

C'est le propre d'une personne qui, par exemple, se fait piéger facilement, donne son numéro de carte bancaire sur n'importe quel pseudosite d'escrocs, fonce tête baissée et sans vérifier à partir de n'importe quelle rumeur, etc.

Depuis que le monde est monde, il y a toujours eu de l'imbecilité humaine. Elle peut d'ailleurs toucher des gens censés être très intelligents, ce ne sont pas les exemples qui manquent et je ne vise personne spécialement.

Il en serait donc de même pour "l'intelligence" artificielle si par exemple elle se révélait incapable de trier les bonnes informations parmi les mauvaises, ou inversement.

Or c'est ce qu'affirme Pierre Levy, grand spécialiste de l'IA, dans un de ses articles:

Aucun système d'intelligence artificielle ne nous protègera contre les « fake news » et les manipulations en tous genres. Le seul remède sérieux aux menées du côté obscur et la meilleure manière d'actualiser les virtualités positives du nouveau médium sont l'éducation des populations et tout particulièrement leur entraînement à la communication réfléchie et à la pensée critique. (extrait d'un article très interessant qu'on trouvera en ligne sur le lien suivant: http://www.sens-public.org/article1369.html)

La question que je me pose immédiatement à propos de cette affirmation est la suivante:

Est-ce une limite absolue et indépassable de l'IA (que j'appelerai donc alors Imbecillité Artificielle) ou simplement circonstancielle: elle est capable de repérer les infox  si on a pensé au départ  à la pré-programmer pour et ensuite est capable de " s'auto-éduquer" là-dessus à partir de ses expériences?

De même que pour les échecs, les ordinateurs spécialisés dans ce jeu apprennent à partir de millions d'auto-expériences, et donc aussi d'erreurs et de défaites, à battre les meilleurs joueurs humains.

Prenons un exemple: une certaine communauté issue du Ku Klux Klan intervient discrètement sur les réseaux sociaux pour faire prévaloir ses préjugés sur la "prééminence blanche" et "l'inferiorité des noirs". Une intelligence artificielle est-elle capable de repérer qu'il s'agit bien uniquement de préjugés et que ces préjugés viennent bien d'une communauté bien précise, issue du KKK?

Oui si elle est capable d'intégrer ce qu'est un préjugé, et si elle est capable de faire la différence entre un préjugé et une vérité scientifique. Oui si elle sait ce qu'est le KKK, ce qu'il véhicule, et quels sont ses objectifs.

Ca, à mon avis, l'IA est capable de le faire en analysant les millions d'informations scientifiques et pseudo-scientifiques présentes sur le net. La différence entre les deux étant repérable en analysant leurs origines: informations validées par l'ensemble de la communauté scientifique (mais n'excluant pas que certains scientifiques se fourvoient totalement, comme ce fut le cas à l'époque nazie), ou informations n'ayant aucune validation scientifique ou historique sérieuse. Ce genre de travail n'est pas évident, mais ne me parait pas infaisable, il suffit d'y mettre les moyens, de gros moyens. En fait il faut arriver à doter  l'IA d'une solide "culture artificielle", car sinon le discernement ne sera pas fiable. Pour bien faire, il faudrait que ce travail soit chapeauté par un organisme international faisant l'unanimité sur le plan indépendance et éthique. Peut-être l'ONU.

Donc je vais pour une fois la défendre: l'IA veut bien dire "Intelligence artificielle", et non "Imbecilité artificielle". Ou plutôt "voudra bien dire", au futur, car à l'heure actuelle, c'est Pierre Lévy qui a raison: on ne la voit pas beaucoup agir dans toutes les fausses informations véhiculées par des mouvements de foule tels que celui des "gilets jaunes", pour en citer un très actuel.

Mais, contrairement à Pierre Levy, je ne pense pas que ce soit irrémédiable et je pense qu'à terme, si l'on s'en donne vraiment les moyens, l'IA sera capable de faire ce tri .

Un (gros) bon point pour elle.