"Même
un robot peut devenir raciste et antisémite"
« Tay,
l'intelligence artificielle lancée
hier par Microsoft sur Twitter, a été "débranchée" : elle était
devenue raciste en moins de 24 heures ». À méditer, ces quelques extraits
d’un article de Judikael Hirel (Même un robot peut devenir raciste et antisémite), publié par Le Point.fr le
25/03/2016 :
Microsoft avait lancé ce jeudi sur Twitter ce que l'on appelle un « chatbot »,
une intelligence conversationnelle,
dont les algorithmes permettent de discuter de façon autonome avec les
internautes. À qui la faute si Tay a dérapé à peine quelques heures après sa
naissance ? Si une intelligence artificielle devient raciste, misogyne et
antisémite après seulement 16 heures d'échanges avec les internautes, c'est
surtout parce qu'elle s'est mise à trop ressembler, et trop vite, à ceux
qu'elle a côtoyés en ligne ! Côté volume, le bilan est positif : en quelques
heures, elle était déjà suivie par des dizaines de milliers de « followers »
sur Twitter, et est parvenue à envoyer 96 000 messages en à peine quelques
heures.
(…) Tay était censée apprendre au fil de ses échanges avec les internautes,
une fois nourrie par les données de son créateur de dialogues types et
d'informations de base. « Plus vous discutez avec Tay, plus elle devient
intelligente », expliquait Microsoft.
(…) Tay n'a pas tardé à déraper, une fois titillée par les internautes.
Elle a ainsi affirmé détester les féministes et a estimé que l'holocauste n'a
pas vraiment eu lieu. Mais son tweet le plus féroce restera celui-ci : « Bush
est responsable du 11 Septembre, et Hitler aurait fait un meilleur boulot que
le singe que nous avons actuellement. Donald Trump est notre seul espoir. »
Après la diffusion de tels messages, sans doute trop réalistes, hélas, au vu de
ce qui peut circuler sur Twitter, Microsoft a annoncé avoir suspendu Tay pour
effectuer « quelques réglages », soulignant avoir « découvert
des efforts coordonnés pour abuser des talents de Tay afin de lui faire
répondre des choses inappropriées ». En effet, des internautes du célèbre
forum 4chan avaient décidé de tester les limites de Tay en lui bourrant
littéralement le crâne de messages répétés : à force de croiser une opinion, l'intelligence
artificielle a fini par la faire sienne. Comme
un humain, finalement.
« Comme un humain », certes, mais surtout, comme un imbécile, « finalement » !
Face aux multiples influences auxquelles il est
confronté dans sa vie, le simplet saute de l'une à l'autre, l’imbécile se
cramponne à l'une d'elle et n'en démord plus, le sage sélectionne et fait le
choix de celles qui lui paraissent bonnes, certains enfin tentent avec leur
intelligence de se forger leurs propres idées personnelles. Nous sommes tous
par certains côtés un peu simplets, par d'autres un peu imbéciles ; le propre
de la réflexion est de faire acte de sagesse puis d'intelligence.
Le chatbot de Microsoft s’arrête à
l’imbécile ! Difficile, dans ces conditions de parler d’intelligence, que celle-ci soit artificielle ou conversationnelle !
Les données, aussi volumineuses soient-elles, et les
statistiques, aussi complètes soient-elles, n'ont jamais été et ne seront
jamais source d'intelligence. Si elles peuvent, associées à des algorithmes
puissants, prétendre être une aide à la décision, c'est qu'elles permettent
d'accéder à des savoirs qui sans elles seraient restés cachés. Elles peuvent
rendre un automate "savant", mais celui-ci sera-t-il pour autant
intelligent ?
Le savoir n'est rien s'il ne donne pas sens à une action.
Or, donner du sens à l’action, c’est lui fixer un but. Lorsque celle-ci est une
parole, son sens (sa signification) est l’objectif poursuivi par celui qui
l’énonce, ou l’objectif vers lequel, même inconsciemment, il tend. « Avoir
un sens », nous dit Comte Sponville (Dictionnaire
philosophique, PUF, 2001), « c’est vouloir
dire ou vouloir faire ». Le
sens implique une volonté, qui « peut être explicite ou implicite,
consciente ou inconsciente », mais sans laquelle tout savoir demeure
irrémédiablement stérile.
« Il n’est de sens que là où intervient une
volonté ou quelque chose qui lui ressemble (un désir, une tendance, une
pulsion) », nous dit encore Comte Sponville, en ajoutant « qu’il
n’est de sens que pour un sujet (que pour un être capable de désirer ou de
vouloir) ». Le sens suppose donc un sujet
capable de volonté. Un objet, même
lorsqu’il est capable d’agir, se distingue d’un sujet ainsi défini, par le fait même qu’il n’a pas de volonté
propre : il ne peut qu’obéir à une volonté extérieure. C’est le cas de
toute machine ou de tout artéfact, jusqu’aux robots les plus évolués, à propos
desquels on parle d’intelligence artificielle, là où il n’y a pourtant que des
données accumulées et des algorithmes conçus par une volonté extérieure. Ce que
l’on nomme intelligence à propos des
robots, qu’elle soit artificielle ou conversationnelle, n’est en réalité
qu’un ersatz d’intelligence dont l’expérience tentée par Microsoft montre bien
qu’elle est plus proche de la bêtise, aussi savante soit-elle, que d’une
véritable intelligence. Cette dernière ne peut être en effet que le
prolongement d’une volonté propre, puisant ses racines dans la nature
simplement biologique (tropismes) ou plus spécifiquement humaine, c’est-à-dire
dans une culture remontant jusqu’aux origines de l’humanité. Elle ne peut certainement pas être le résultat
de la simple confrontation de données issues de volontés extérieures, avec des
algorithmes programmés par des experts en statistiques.
Donner du sens à l'action, c'est inscrire cette
dernière dans le temps long d’une culture plusieurs fois millénaire, consciente
et inconsciente. Celle-ci dépasse très largement tous les savoirs explicites ou
implicites acquis par simple apprentissage. Elle caractérise l’intelligence pure
qui n’est pas savante, mais simple traduction d’une volonté propre permettant à
chacun d’assurer sa propre survie et la perpétuation de son espèce.
Donner du sens à l’action, c’est lui fixer un but
qu'aucun algorithme ne pourra jamais désigner avec autant de discernement et de
détermination qu’une véritable intelligence inscrite dans le prolongement d’une
volonté puisant ses racines dans toutes les profondeurs de l’humanité. La
véritable intelligence est celle qui donne du sens aux savoirs accumulés.
Constatant avec Rabelais que « science sans conscience n’est que ruine de
l’âme », il semble raisonnable de considérer que si la technique et les
algorithmes permettent de transformer des données en savoirs, puis
éventuellement en savoir-faire, seule l’intelligence peut donner au savoir un
véritable sens permettant de décider et d’agir avec discernement.
Un robot, aussi savant soit-il, ne sera jamais qu'un
"idiot savant".
Aucun commentaire:
Enregistrer un commentaire