Turing, A.M. (1950) Computing Machinery and Intelligence. Mind 49 433-460
Goutefangea, Patrick (2005) Alan Turing et le jeu de l'imitation Cahiers philosophiques 102
Bertrand, J. M. (1987). Test de Turing: jeu d'imitation ou test d'intelligence?. Quaderni, 1(1), 35-45.
Goutefangea, Patrick (2005) Alan Turing et le jeu de l'imitation Cahiers philosophiques 102
Bertrand, J. M. (1987). Test de Turing: jeu d'imitation ou test d'intelligence?. Quaderni, 1(1), 35-45.
Avec le "jeu de l'imitation", Turing imagine une méthode pour décider si une machine "peut penser". Il montre que la définition théorique de la machine qu'il a lui-même donnée en 1936-1937 n'interdit pas l'hypothèse qu'une machine conforme à cette définition puisse l'emporter au jeu. Ce faisant, il n'aborde ni un problème technique, ni un problème de logique théorique, mais s'avance sur le terrain d'une philosophie que l'on qualifiera de "continentale" : pour l'emporter au jeu, la machine doit s'exprimer à la première personne et être pour son adversaire un semblable. La machine victorieuse doit être élevée à la pleine dignité du sujet de la philosophie classique.
PPT 2019:
résumé langue anglaise:
PPT 2019:
résumé langue anglaise:
0. Le test de Turing expliqué en moins de 3 minutes
1. Le modèle Turing (vidéo, langue française)
2. Video about Turing's work: Alan Turing: Codebreaker and AI Pioneer
3. Two-part video about his life: The Strange Life of Alan Turing: Part I and Part 2
Message à tout le monde : Faites vos ciélos tôt!
RépondreEffacerIl y avait un retard dans la création du blogue 2019. Donc le décalage pour la semaine #1 peut être réglé durant les jours qui suivent. Mais de façon générale, si vous souhaitez une réponse à vos ciélos de ma part, faites les dans la semaine avant ce cours qui traite les lectures de la semaine, pas après. Sans ça je n'aurai pas le temps de répondre. (Je lirai toutes le ciélos, mais je ne pourrai répondre qu'à celles qui sont affichées tôt dans la semaine -- donc jusqu'au samedi/dimanche précédant le cours.)
Ce n'est qu'une lecture et un eciélo par semaine qui sont obligatoires. pour une note de succès dans ce cours. Les autres lectures, et les ciélos supplémentaires sont facultatives, mais donnent davantage de crédits pour avoir un A. J'espère que tout le monde cherchera un A!)
Donc à partir de la semaine #2, svp faites vos ciélos tôt dans la semaine, pas juste à la veille du cours.
L’argument de la conscience tient que les machines ne peuvent pas être intelligentes à cause de leur manque d’émotions (par ex., pour ressentir du plaisir, du chagrin, de la colère ou de la dépression). Ainsi, prétendre que seuls les humains sont intelligents nierait la validité du test de Turing. En partageant nos sentiments, nous, en tant qu’humains, clarifions et validons nos émotions. L’existence de la conscience alors repose sur des preuves externes. Donc, si une machine pouvait décrire les pensées et les émotions qu’elle ressentait en écrivant un sonnet ou en composant un concerto, elle serait également considérée comme intelligente. Quoi qu’il en soit, Turning n’arrive toujours pas à définir exactement en quoi consiste l’intelligence.
RépondreEffacerAujourd'hui Turing n'aurait pas parlé de l'intelligence mais de la capacité cognitive. Toutes les capacités cognitives sauf une sont des capacités à agir. La dernière est la capacité de ressentir (dont les émotions, les sensations -- tous les états internes où ça ressemble à quelque chose d'être dans cet état).
EffacerLes ordinateurs écrivent de nos jours des sonnets et de la musique -- pas encore de très haute qualité, mais quand-même. Ça démontre qu'ils ressentent?
Oui, à la condition qu’il réussissent le test de Turing.
EffacerD'accord, mais c'est quoi l'argument que lorsqu'un ordinateur réussit le TT il ressent? Et est-ce ça ce que dit Turing?
EffacerTuring souligne deux points essentiels : (a) pour arriver à une définition de l'intelligence, il faudrait créer une machine capable de faire tout ce que font les humains et (b) la notion d'intelligence devrait être appliquée systématiquement aux humains et aux machines.
EffacerMais est-ce une machine qui ne fait que de la computation (un ordinateur)? Un aspirateur est aussi une machine.
EffacerJe perçois les arguments stipulant qu’une machine ne peut pas «ressentir» les choses comme un humain le ferait ou ne peuvent pas commettre d’erreur comme étant des arguments provenant de la même racine. Comme le dit Turing dans son texte et comme nous l’avons vu en classe, il est impossible de savoir si une entité ressent ou non par la simple raison qu’il n’y a que celui qui ressent qui est en mesure de confirmer qu’il ressent. De la même manière, il est impossible de savoir, d’un point de vue extérieur, si une erreur a été commise par une lacune au sein d’un raisonnement ou s’il s’agit d’une erreur qui a été programmée. Dans le cas où elle est programmée, ce n’est plus une erreur puisque la machine agit comme elle est supposée le faire. Mais pour l’œil extérieur, ce qui est perçu, c’est l’erreur. Donc ce qui intéresse ici, ce n’est pas tant l’agissement que ce qui l’a motivé. 4 X 7 = 27 est-il une erreur de raisonnement logique ou une réponse programmée? Le fait d’aimer une pièce musicale provient-il des différent stimuli biologiques résultant de l’écoute ou l’appréciation a-t-elle été simplement inculquée à une machine? J’estime donc que les arguments du ressenti ou de l’erreur sont vides puisqu’ils mènent à des questions auxquelles il nous est impossible de répondre.
RépondreEffacerL'argument de l'erreur est vide: An algo peut être incorrecte, une machine peut mal fonctionner, etc. Puis qu'est-ce qu'une erreur?
EffacerMais c'est quoi l'argument pour ou contre la possibilité qu'une machine ressentent? Une machine, c'est un système causal. Les organismes biologiques sont des systèmes causaux. Ils sont des machines (peut-être pas les machines de Turing).
Pour revenir à ce qui fut dit lors du cours précédent, si la machine ressent, ressent-elle vraiment? Si nous pinçons un robot et qu'il témoigne d'une douleur, la douleur est-elle vraiment présente? Quand bien même que nous pourrions créer un robot parfaitement similaire à l'humain (voir le 4e ou 5e stade du test de Turing) ce ressentit ne pourrait être qu'une simulation générée par des algorithmes complexes très exacts qui remplace la sensation. Ainsi, l'expression d'un ressenti serait bien interprétée, mais la vraie sensation, celle perçue par l'esprit de la machine, ne serait qu’une combinaison de processus mécanique. Il est difficile de percevoir la limite entre ce qui est réellement ressenti et ce qui ne l'est pas lorsque nous avons devant nous un être capable de sentiments (par simulation ou non). Chose certaine, je ne crois pas que même la plus développée des machines ne soit capable de percevoir les sensations et de les ressentir au même titre que l’humain de par son fonctionnement mathématique qui, soit dit en passant, demande à être programmé avant de fonctionner.
RépondreEffacerQu'est-ce qu'une machine? Ce n'est pas juste les ordis qui sont des machines. Les sciences cognitives cherchent à constater quelles sortes de machines nous sommes.
EffacerMais comment est-ce que tu sais que les ordis ne peuvent pas ressentir? (Je ne dis pas que tu te trompes, mais tu ne donnes qu'une affirmation intuitive.)
(C'est le propos de Searle -- et ensuite le problème de l'ancrage des symboles -- qui fournissent des arguments.)
Lire l’article de Turing alors que nous sommes en 2019 s’est révélé être un curieux exercice. Bien que j’aime son style d’écriture, je me suis buté à plusieurs reprises contre des difficultés à comprendre ses démonstrations mathématiques et ses propositions (les analogies qu’il a fournies ont dans ce sens été fort appréciées!). Néanmoins, constater la réalisation de ses prédictions a été particulièrement intéressant.
RépondreEffacerJe ne peux cependant m’empêcher de questionner la « machine enfant » que modélise Turing, mais surtout la méthode qu’il propose pour « accélérer » l’évolution, puis le développement de cette machine. Je vois son utilité : en partant du principe que le cerveau d’un enfant n’est pas développé à sa pleine capacité et qu’il est ainsi moins complexe que celui d’un adulte, l’on pourrait théoriquement espérer pouvoir reproduire chez la « machine enfant » les étapes de développement par lesquelles passerait un enfant humain dans sa maturation naturelle. Plus précisément, cette façon de procéder permettrait à l’expérimentateur de « diriger » l’apprentissage de la machine et apporter les modifications nécessaires au fur et à mesure que la machine se complexifierait, mais aussi, et justement, de pouvoir mieux comprendre comment une machine, ou tout être dans ce sens, deviendrait conscient (cognizant). Ceci répond à la deuxième partie du problème de l’imitation de l’esprit humain formulé par Turing. C’est la première partie de sa réponse qu’il faudrait au minimum revisiter, selon moi : si l’on se fie aux postulats de l’évolution darwinienne et l’on s’y tient, celle-ci est toujours accidentelle, jamais téléologique (c’est-à-dire qu’elle n’est pas orientée vers un « but » concret, et que le côté pratique de cette évolution est seulement constaté a posteriori). La sélection naturelle, comme mécanisme, provoquera une mutation si celle-ci présente un avantage évolutif pour l’être (la machine, ici). Dans le cadre proposé par Turing, la main de l’expérimentateur (judgment of the experimenter ) agit comme une force extérieure qui vient corriger un défaut ou une faiblesse observée ponctuellement dans la machine, presque comme si l’influence divine d’une déité serait intervenue, ce qui me semble inadmissible dans la théorie darwinienne. J’ai du moins l’impression que cette analogie à l’évolution est inappropriée.
Il y a quatre choses distinctes en jeu qui déroulent dans le temps: (1) la maturation, (2) l'apprentissage, (3) l'évolution darwinienne (qui ne cause pas les mutations mais les retient si elles surviennent et si elles sont adaptatives), et (4) l'évolution des efforts de modélisation du rétro-ingénieur qui cherche à développer un modèle qui réussira le test de Turing (TT).
EffacerC'est plus facile ainsi que plus vraisemblable de chercher à developper un modèle qui apprendra par son expérience que de chercher à anticiper et à implanter l'issue de son expérience du modèle à l'avance. Au fond le TT teste la capacité d'apprendre par expérience tout ce les humains sont capables d'apprendre par expérience.
A quel point peut-on bâtir des raisonnements fiables sur une experience de pensée, incluant des hypothèses tel que : “a machine can be constructed to play the imitation game satisfactorily, we need not be troubled by this objection” + “manner of operation cannot be satisfactorily described by its constructors because they have applied a method which is largely experimental” + “The short answer is that we are not asking whether all digital computers would do well in the game nor whether the computers at present available would do well, but whether there are imaginable computers which would do well” + “The book of rules which we have described our human computer as using is of course a convenient fiction” + “The only really satisfactory support that can be given for the view expressed at the beginning of §6, will be that provided by waiting for the end of the century and then doing the experiment described”
RépondreEffacer1. Identifie-toi
Effacer2. Règle le problème de logger avec ton identité gmail
3. Turing propose une méthodologie pour les sciences cognitives: la rétro-ingénierie des capacités d'agir en développant un candidat qui réussira le TT (le long d'une vie).
C'était Quentin Ringenbach,
EffacerDans les critiques du texte de Turing, l’argument de la conscience a retenu mon attention. Il est dit qu’une machine ne peut ressentir, et c’est pourquoi elle ne pourrait pas penser. Cela m’amène à me questionner. Comment peut-il affirmer qu’une machine ne ressent pas? Comment peut-il affirmer qu’un humain ressent, mais pas une machine. Une personne sait qu’elle pense puisqu’elle ressent qu’elle pense. Nul ne peut affirmer qu’autrui pense puisque seule la personne qui pense le ressent. L’argument s’appuie donc sur des faits et des questionnements qui ne peuvent être répondu, selon moi. L’être humain conclu que les autres ressentent puisqu’ils peuvent nommer en partie ce qu’ils ressentent. Une machine pourrait faire pareil. Par contre, il faudrait se demander s’il nomme ce qu’il ressent, car il a été programmé pour répondre de cette façon ou s’il ressent réellement. Cet argument n’est donc selon moi pas valide, même si l’idée à la base me semblait la plus intéressante.
RépondreEffacerJ'ai plus l'impression que l'idée qu'on ne peut pas savoir si quelqu'un ressent quelque chose n'est que théorique. Tout comme l'idée qui en résulte qu'on ne peut pas savoir si un ordinateur ressent quelque chose, ce n'est que théorique. Jusqu'à preuve du contraire évidament! Mais en ce moment un ordinateur n'est qu'un simulateur, ou un outil comme monsieur Harnad dit (corrigez moi si je me trompe). Est-ce qu'une scie peut ressentir le bois qu'elle coupe? Théoriquement on ne peut pas le savoir, mais concrètement on le sait tous. C'est juste que l'ordinateur peut être programmé de telle sorte qu'il nous fait penser à d'autres humains.
EffacerAutrement dit, moi je frapperais le robot, au moins pour voir comment il réagirait, mais si ce n'est qu'un simulateur il ne peut pas être pris au sérieux.
Turing nous propose que puisque la seule façon dont on constate que les autres humains ressentent, c'est qu'on ne peut pas les distinguer -- à partir de ce qu'ils font et ce qu'ils disent -- d'un être, comme nous, qui ressent. Donc on ne peut pas exiger plus de la part d'un robot TT (comme Riccardo).
EffacerQu'est-ce que c'est que la computation? Puis qu'est-ce que c'est que la « simulation » ?
Je dirais que la computation est la manipulation de symboles et la simulation un outil pour tester des modèles de la réalité, un outil mathématique.
EffacerTuring a inventé la machine de Turing pour expliquer ce que font les mathématiciens lorsqu'ils font de la computation. Ça c'est la thèse faible de Church/Turing. La thèse forte est que la computation peut simuler, formellement, presque tout ce qu'il y a dans la réalité.
EffacerImportant
RépondreEffacer1. Utilizer le fureteur Chrome pour afficher vos ciélos pour le cours
2. Créer un compte gmail et mettre votre photo comme icon dans votre profil gmail
3. Quand vous faites un ciélo, quitter d'autres identités google et logger uniquement avec le gmail que vous utilisé pour le cours (sans ça google sera confus concernant votre identité et mettra "unknown" au lieu de votre nom).
4. Si vous faites ça correctement, vos noms devraient paraître avec vos ciélos. Mais jusqu'à ce que vous ne réglez ça, il faut que vous vous identifiez en mettant votre nom à la tête du texte. Sans ça je ne saurai pas qui a fait le commentaire et je ne pourrai pas le créditer.
5. Donc si vous avez affiché une ciélo anonyme, revisiter la ciélo et identifiez-vous dans une réponse. (Mais ne lâchez pas avant de régler le problème de faire désambiguïser votre identité gmail/Chrome")
Après le dernier cours, je me demandais comment on pouvait réellement croire si notre ami rencontré il y a trois ans est réellement un robot et qu’ainsi ses sentiments qu’il me témoigne sont réels et au même niveau que mes sentiments sont réels à mes yeux. En effet, il serait intéressant que le robot puisse réellement ressentir les émotions et les sensations comme les humains. Par contre, même chez les humains il est difficile de savoir comment une personne ressent. On peut seulement se fier à nos propres sentiments, ce qu’on appelle de l’introspection (on pourrait aussi scanner le cerveau pour voir si la même région réagit chez d’autres humains ou chez le robot). Puisqu’on est aussi incertain des stimulus ressentis chez nos semblables (ou toutes autres espèces) que ceux d’un robot, pourquoi est-ce qu’il faudrait plus douter de sa parole (ou moins douter de celle des humains ?) Même pour Turing, le fait de penser est une expression qu’il décrit vaguement en mentionnant « thinking is as thinking does » (The Annotation Game: On Turing [1950] on Computing, Machinery, and Intelligence). Ce qui veut dire que nous n’avons pas encore découvert comment nous faisons pour penser, mais nous savons que ce phénomène se produit, comme il pourrait bien se produire chez un robot. De plus, si ce robot est intelligent au point de nous avoir trompés (nous faire croire pendant des années qu’il était un humain), il a, en quelque sorte, réussi le test de Turing et il a témoigné d’un esprit semblable à celui des humains. Si ce robot pense comme les humains, il ne devrait alors pas être dénigré ou traité différent pour autant. Selon Turing, pour qu’un robot puisse réussir le jeu de l’imitation (Turing Test) il doit être rendu au niveau T3 « Total indistinguishability in robotic (sensorimotor) performance capacity » (The Annotation Game: On Turing [1950] on Computing, Machinery, and Intelligence). Ce qui signifie qu’il pourrait penser comme un humain et avoir un libre arbitre, ou, du moins, le laisser paraitre et berner quelques-uns d’entre nous qui essayerions de faire le test. Si nous arrivons à construire un tel robot, alors, peut-être que nous comprendrions mieux comment les humains font pour penser puisque nous l’aurions construit. Alors, on devrait savoir comment il fonctionne ainsi que sa façon de réfléchir (contrairement à un humain cloner qui est en fait qu’un humain copier et non créer.)
RépondreEffacerEst-ce que ce qui réussi le test de Turing (Riccardo) nous trompe? L'objectif du TT n'est pas de nous berner mais d'expliquer le capacités du cerveau.
EffacerA quel point peut-on bâtir des raisonnements fiables sur une experience de pensée, incluant des hypothèses tel que : “a machine can be constructed to play the imitation game satisfactorily, we need not be troubled by this objection” + “manner of operation cannot be satisfactorily described by its constructors because they have applied a method which is largely experimental” + “The short answer is that we are not asking whether all digital computers would do well in the game nor whether the computers at present available would do well, but whether there are imaginable computers which would do well” + “The book of rules which we have described our human computer as using is of course a convenient fiction” + “The only really satisfactory support that can be given for the view expressed at the beginning of §6, will be that provided by waiting for the end of the century and then doing the experiment described”
RépondreEffacerTuring est en train de proposer une méthodologie pour les sciences ici.
EffacerEst-ce que les machines peuvent penser ? Pour répondre à cette question, il faudrait d'abord définir les notions de « machine » et de « penser ». Turing propose une autre vision du problème : le jeu de l'imitation. Théoriquement, si un humain ne peut se fier à aucun indice physique lorsqu'on lui demande de distinguer une machine d'un autre humain, alors la machine pourrait réussir à imiter suffisamment bien l'être humain, au point que l'examinateur ne puisse faire la différence. Placés dans les mêmes conditions (à ne pouvoir compter que sur son expression), un humain et une machine pourraient donc avoir les même performances.
RépondreEffacer(On peut se demander alors s'il est correct de penser que l'humain est supérieur à la machine.)
Si l'on oublie les caractéristiques physiques et biologiques, qu'est-ce qui définit « l'humanité » ? Si je devais rencontrer un inconnu sur internet, avec qui je ne pourrais correspondre qu'à l'écrit et que je ne verrais jamais physiquement, il me suffirait qu'il m'affirme être humain pour le croire. Si je commençais à douter de son humanité, je pourrais tenter de le questionner sur son passé, sur ses croyances, sur ses rêves et ses projets. Mon interlocuteur pourrait me mentir et inventer de toute pièce un personnage fictionnel, et je devrais alors juger de la plausibilité de ce personnage. Pour ce jugement, je devrais me baser non pas sur ma seule expérience personnelle de la vie (qui est bien trop limitée), mais sur une expérience « globale » de l'humanité...
Si je devais évaluer l'humanité de tous les habitants de cette planète un par un, je suis certaine de me tromper de très nombreuses fois. Les humains sont trop différents les uns des autres pour que l'on puisse établir un algorithme de reconnaissance humaine en se basant uniquement sur l'expression de la parole. Je ne vois pas comment l'on pourrait établir une règle absolue et dichotomique pour séparer les humains des machines sur le seul facteur de l'expression verbale.
Si je devais passer le test de Turing en tant qu'examinatrice (la personne C), je ne pense pas que je serais très fiable. Est-ce que cela voudrait dire que la machine aurait réussi à me tromper, ou que je suis juste nulle pour reconnaître mes semblables ?
Il ne s'agit pas d'imiter ou de tromper mais de générer nos capacités, le long d'une vie.
EffacerD'accord, mais alors je n'ai pas compris pourquoi Turing appelle ça le jeu de l'imitation?
EffacerMauvaise méthode pédagogique (mais théorie géniale)...
EffacerSelon Turing, une façon d’obtenir une machine performante dans le jeu de l’imitation est de créer une machine qui observe les conséquences de ses comportements de façon à modifier adéquatement ses programmes dans le but de mieux performer une tâche donnée. En d’autres mots, il introduit le concept d’apprentissage automatique. L’utilisation de ce type de machine dans le jeu de l’imitation m’amène à douter de la pertinence du test de Turing : bien qu’une telle machine puisse avoir des performances satisfaisantes dans le jeu de l’imitation, elle ne permet pas de réduire l’incertitude associée à la nature de la pensée. En effet, l’humain peut programmer une machine qui possède certains réflexes permettant l’apprentissage. La structure de ces réflexes doit, à mon sens, être calquée sur les mécanismes d’apprentissages propres aux humains. De tels réflexes peuvent donc seulement être défini suite à une introspection sur les mécanismes d'apprentissages humain. De ce fait, j’ai l’impression que Turing propose de prendre l’homoncule et de le mettre au contrôle d’une machine. Certes, une machine contrôlée par l’homoncule peut être performante dans le jeu de l’imitation, mais la rétro-ingénierie ayant permis sa création ne permet pas l’obtention de nouvelles informations sur la pensée. Enfin, j'ai induit des différentes réponses d'Étienne sur cette page que l’intérêt du jeu de l’imitation est le fait que, par ce dernier, Turing propose la rétro-ingénierie comme approche en sciences cognitives. Si cette approche ne permet pas l’obtention d’information nouvelle, le jeu de l'imitation est-il pertinent à la recherche en sciences cognitives?
RépondreEffacerTu crois que de générer les capacités de Riccardo il ne s'agit que de « programmer » des réflexes?
EffacerL'homoncule n'existe pas dans ma tête; l'homoncule c'est moi.
Les tests que proposent Turing pour démontrer l'existence de la pensée chez une machine me rappellent ceux que Descartes proposaient dans son Discours de la Méthode pour démontrer l'inexistence de l'esprit chez les animaux non humains.
RépondreEffacerDescartes pensait que nous saurions qu'aucun esprit ne guide les animaux (ou les machines) puisqu'elles ne pourraient être suffisamment flexibles pour tenir des conversations variées (T2) ou adapter leurs comportements à toutes les éventualités possibles (T3), contrairement aux humain(e)s - sans exception, selon Descartes.
Étant construits ''par mécanismes'' - extrêmement complexes, puisque leur artisan se trouve à être nul autre que le dieu chrétien -, les non-humains seraient programmés à l'avance et ne pourraient agir autrement que suivant ''la composition de leurs organes''.
Supposant que les humain(e)s passent les tests de Descartes (donc ils pensent) et que certaines machines passeraient les TT T2 et T3 (donc penseraient également), je me demande si Descartes auraient accepté la conclusion logique découlant de ses propres prémisses que certaines machines pensent aussi.
Le test de Descartes instaure lui aussi en quelque sorte l'humain(e) comme modèle type de l'être qui pense, et seuls ceux qui sont capables de l'imiter peuvent mériter le titre d'être pensant.
Je me demande si vous pensez que Descartes a produit une version antique du test de Turing, ou si vous y voyez des différences importantes - mis à part ses croyances dualistes.
Le TT se fait pour éprouver un modèle causal des capacités cognitives. C'est nécessairement mécanique (cause/effet). Descartes niait que la cognition soit mécanique. Mais sa notion est incohérente: Sauf si on croit en intervention divine, il n'y que ce qui est mécanique.
EffacerDescartes présumait que le mécanique ne pourrait pas raisonner. C'est faux. Le calcule est du raisonnement, et les ordinateurs le font. Nier le mécanisme est absurde. Ce qu'on cherche à rétro-ingénerier c'est la sorte de mécanisme que nous sommes, pour pouvoir penser: Ça revient au T2, T3, T4.
Et son constat que les animaux ne sont que mécanique devient vide de sens lorsqu'on se rend compte que les humains le sont aussi (et que les humains sont des animaux, et qu'il n'y a pas d'autres options non-magiques).
Ce que Descartes avait à l'idée (qu'il confondait avec le raisonnement) c'était le ressenti. Mais de nier ça aux animaux est pervers. Le problème des autres nous laisse dans l'incertitude pour toutes les autres, humaines ou non humaines.
J‘ai trouvé très intéressantes les critiques du jeu de l’imitation dans le texte de Goutefanges. D’abord, c’est vrai que le fait qu’une machine réussisse statistiquement à imiter les comportements d’un humain ne signifie pas forcément que la machine pense. Turing verrait comme un succès de la machine le fait que le résultat au jeu de l’imitation serait le même avec un humain ou avec elle, mais ce succès signifie-t-il qu’on est devant une forme d’intelligence ? En ce sens, les être humains démontrent parfois qu’ils peuvent adopter des comportements sans réfléchir, par exemple les gens qui parlent très fort dans leur téléphone lorsqu’ils répondent à un appel international.
RépondreEffacerJ’ai remarqué que, de nos jours, on emploie le vocabulaire «intelligent» à toutes les sauces, par exemple lorsqu’on parle de «téléphone intelligent». Mais, est-ce que c’est vraiment la machine qui est intelligente? Dans ce sens, Goutefanges présente une analyse que la version moderne de l’Intelligence artificielle fait du test de Turing. Les tenants de ce courant disent que la machine est connexionniste, qu’elle est donc capable d’auto-organiser ses apprentissages. Il est vrai que les appareils actuels fonctionnent beaucoup par réseaux de connections. Et cela pose la question : Est-ce que la machine apprend réellement ou a-t-elle seulement une capacité de créer des connections dans un temps record ?
L'objectif du TT est de tester si on a réussi à rétro-ingénierier les capacités cognitives humaines. Le succès serait de créer une candidat qu'on ne peut pas distinguer d'un humain à partir de ses capacités le long d'une vie -- comme Riccardo -- peu importe ce qui se passe à l'intérieure du candidat (symbolique, connexionniste, dynamique).
EffacerLa lecture des textes, de Patrick Goutefangea et de Jean-Michel Bertrand sont plutôt critique sur le test de Turing ou le jeu de l'imitation, ils semblent septique que la machine de Turing original ne passerais pas le test, car elle serait trop prévisible, ne pouvant mentir ou inventer des réponses.
RépondreEffacerAvec l'intelligence artificielle soit la machine qui peu apprendre, avec une mémoire interne, des différentes expériences et erreurs antérieurs, des instruction modifiant les réponses suivant les situation (nuances des questions), il serait alors possible que la machine passe le test, donc pour l'interrogateur plus difficile de trouver l'imposteur.
La machine de Turing est juste le prototype d'un ordinateur. Ce qui doit réussir le TT c'est un ordinateur (T2) ou un robot (T3) et il doit produire toutes nos capacités verbales (T2) ou toutes nos capacités verbales + robotiques (T3) (comme Riccardo). Il ne s'agit pas de l'imposture mais de la rétroingénierie.
EffacerL'objection principal est le fait qu'une machine n'a pas de ressenti (Professor Jefferson; "Not until a machine can write a sonnet or compose a concerto because of thoughts and emotions felt, and not by the chance fall of symbols, could we agree that machine equals brain-that is, not only write it but know that it had written it. No mechanism could feel (and not merely artificially signal, an easy contrivance) pleasure at its successes, grief when its valves fuse, be warmed by flattery, be made miserable by its mistakes, be charmed by sex, be angry or depressed when it cannot get what it wants.") donc les réponses seront purement arithmetics. Prenant en considération que la machine simule un " adulte ", une " child machine " qui apprend à fur et à mesure pourrait être programmé plus facilement(thèse). Un peu plus loin ca dit " We normally associate punishments and rewards with the teaching process.'' ,mais le résultat (problème/solution) ne seront-ils pas le même que pour l'adulte machine ", adonc on revient au même problème qu'au début?
RépondreEffacerRiccardo a toutes les compétences observables du Pr. Jefferson. Le ressenti ne se voit pas. C'est le problème des autres esprits. (Même histoire pour Riccardo adulte et Riccardo enfant.)
EffacerGoutefangea maintient que « Turing ne prétend pas faire de la machine un modèle explicatif du comportement humain ». Toutefois, il est intéressant de noter à quel point le fonctionnement de la machine de Turing est analogue à l’enseignement de nouveaux comportements à un enfant.
RépondreEffacerÀ l’ère de Turing, le béhaviorisme était le cadre psychologique dominant. Ainsi, on pourrait soutenir que le comportement d’un enfant pourrait être façonné étape par étape. Le processus commencerait par renforcer une réponse qui ressemble au comportement souhaité. Dans le cas de la machine de Turing, la tête lirait le contenu d’une cellule, se déplacerait d’une cellule à gauche ou à droite et demeurerait dans le même état.
Ensuite, dans le cas d’un enfant, la réponse qui ressemblera plus au comportement souhaité serait renforcée ; celle qui était précédemment renforcée ne pourrait plus être renforcée. Pareillement, la tête de la machine de Turing écrirait un nouveau symbole à son emplacement actuel sur la bande, passerait à un nouvel état et se déplacerait d’une cellule à gauche ou à droite.
Dans les deux cas, ce processus se poursuit jusqu’à ce que le comportement souhaité soit renforcé. Néanmoins, de petites étapes discrètes et un séquencement minutieux sont essentiels pour l’enseignement de nouveaux comportements. Compte tenu du schéma préexistant de l’enfant, des étapes plus larges pourraient être irréalisables. De même, si la tête de la machine de Turing se déplaçait sur la bande par des incréments plus importants, elle pourrait se déplacer soit au-delà de l’extrémité la plus à gauche de la bande, soit dans une cellule où il n’y a pas de comportement défini pour son état et sa position actuels, et donc elle s’arrêtera.
Oui, il y a des algorithmes (donc computationnel, donc machine de Turing) qui apprennent. Et oui, les behavioristes s'occupaient avec l'apprentissage par renforcement (recompense) surtout chez les rats et les pigeons apprenant à appuyer sur un levier. Et oui, les enfants apprennent. Mais jusqu'ici les algorithmes pour l'apprentissage sont encore loin de la puissance d'un humain, donc du test de Turing.
EffacerPar contre, de façon générale, ce n'est pas l'apprentissage que fait une machine de Turing, c'est la computation. Les algorithmes d'apprentissage ne sont qu'un cas particulier de tout ce que peut faire la computation (thèses faibles et fortres de Turing).
Éprouver des émotions n’est pas un facteur déterminant pour pouvoir qualifié quelqu’un ou quelque chose d’« intelligent ». Même si les machines en général ne sont pas programmées pour ressentir des émotions, ceci n’est pas une raison valable (et suffisante) pour prétendre qu’elles ne sont pas dotées d’intelligence. Une machine peut-elle réellement éprouver des émotions par elle-même ou est-elle programmée à en éprouver tout dépendamment des situations auxquelles elle fait face? L’humain n’a-t-il pas aussi été programmé pour ressentir? Il est possible que les machines éprouvent des émotions qui ne sont pas les mêmes que celles ressenties par l’humain et qu’elles les manifestent d’une manière différente de celui-ci. C’est peut-être pour cela que l’humain a tant de mal à déterminer si les machines ressentent ou non.
RépondreEffacerTu veux dire quoi par « programmer » ? Techniquement ça veut dire ce qui est généré par la computation. Comment est-ce que la computation (la manipulation) génère les émotions? Searle démontre qu'elle ne peut même pas générer le ressenti de compréhension.
EffacerCe qui m’a beaucoup intéressé dans la première lecture (Alan Turing et le jeu de l’imitation) est le concept d’apprentissage et d’équation des machines. Lors de ma lecture sur le sujet, je me posais beaucoup de question à savoir comment Turing pensait qu’il était capable d’accomplir cela. Turing a sollicité plusieurs caractéristiques de la machine universelle. Elle peut être modifiable lorsqu’elle peut imiter d’autres machines. Pour réussir, la machine, le petit homme, en question aurait un algorithme d’apprentissage qui l’aiderait à faire connaissance et à comprendre le monde dans lequel il vit et dans lequel il fera son apprentissage et éducation. Comme la machine est dotée d’un dispositif lui permettant de recevoir des signaux extérieurs la méthode behavioriste, de la récompense et punition, peut être également utiliser pour l’éducation et apprentissage d’un petit homme. Je vois bien comment l’éducation des machines et le jeu de l’imitation sont reliés. La fonction de ce jeu est de vérifié que la machine est capable de reproduire des comportements. La machine doit être capable d’avoir des échanges avec des humains sans que ceux-ci réalisent qu’il ne parle pas avec un humain, mais bien avec une machine ainsi que parler à la première personne.
RépondreEffacerCiélo fait par Andrea Ramirez-Morales (Toujours incapable d'ajouter mon nom au commentaire!)
La machine doit pouvoir faire tout ce que peut faire Riccardo (verbalement, si c'est T2, verbalement ainsi que robotiquement dans le monde, s'il s'agit de T3).
EffacerT3 est impossible à partir de la computation seule. La pièce chinoise démontre que T2 l'est aussi.
Ce commentaire a été supprimé par l'auteur.
RépondreEffacerC'est l'argument de qui, en faveur de quoi? La question qu'on traite c'est si la computation peux générer toutes les capacités cognitives.
EffacerEn visionnant une biographie de Alan Turing, j'ai soulevé plusieurs éléments très intéressants et dignes de mention.
RépondreEffacerEn résumé, il est né à Londres en 1912, grand mathématicien et cryptologue,en 1936 un article sur ces travaux décrira les bases de la machine de Turing, de 1938 a 43 pendant la seconde guerre il participera au décryptage de la machine Enigma, ensuite de 1945 à 47 il décrira le premier ordinateur qui sera réaliser seulement en 1948 à l'université de Manchester. En 1950, dans l'article sur intelligence artificielle, il propose son test de Turing pour évaluer l'IA.
Il termine sa carrière en 1952 sur l'étude de la morphogenèse soit l'étude des organismes et en 1954 se suicida en mangeant une pomme empoisonnée au cyanure,
Ma vision de ce cheminement, malheureusement s'il n'était pas décédé, me porte à croire qu'il serait arrivé a décrire une forme intelligence artificielle de niveau T5 biologiquement fonctionnelle.
Pour terminer, je soulignerais le lien de la pomme empoisonnée de Turing avec le logo de fondation de Apple, une pomme croquée de couleur arc-en-ciel (symbole gay) en mémoire de Turing.
Les précisions biographiques sont passionnantes, mais est-ce que tu as compris l'essentiel de ce qu'il propose avec son test? Et ce qu c'est que la computation?
EffacerTuring propose avec son test d'évalué l'intelligence artificielle et ainsi comparé et comprendre la cognition humaine.Je crois que ce n'est pas seulement de la computation dépassé T3, il y a un élément en parallèle qui enrichie la computation simple suivant un seule algorithme, soit un autre dimension, comme a un carrefour qui nous donne des options de différents algorithmes pour différentes circonstances.
EffacerEn classe, vous avez dit que les fonctions végétatives ne sont pas pertinentes pour la cognition. Il n’en demeure pas moins que nos pensées et nos actions sont dirigées vers la satisfaction de nos besoins en tant qu’être vivant. Il me semble juste de dire que l’ensemble de notre cognition n’est pas uniquement de la computation. La computation étant la manipulation des symboles selon leur forme arbitraire, suivant des règles et indépendamment de l'implémentation matérielle. Je crois que l'ensemble du corps humain influence nos pensées, nos décisions et que cela fait également partie de la cognition. Le ressenti est nul doute une composante d’un mécanisme causal qui génère l’ensemble de nos capacités. Bien sûr, comme le dit la thèse forte de Turing un robot pourrait simuler la dynamique de l'ensemble des propriétés symboliques connues du cerveau par la computation, mais ce ne sera jamais comme la vraie implémentation.
RépondreEffacer2.1
RépondreEffacerThèse forte : Je comprends que tout n’est pas que computation. Il existe une dualité entre les valeurs discrètes et les valeurs continues. On considère que tout ce qui est discret est computable. Autrement, il s’agit des phénomènes dynamiques continus. On parle du terme «simulation» lorsque l’on symbolise un phénomène dynamique, c’est-à-dire que l’on transforme une description verbale en langage formel. Cette idée réside toujours dans le fait que l’on simule un phénomène dynamique dans un monde virtuel où reproduire l’effet ne donne aucune information sur le mécanisme causal. La meilleure analogie que je puisse trouver c’est une fonction mathématique avec un comportement asymptotique. La fonction semble atteindre la valeur, mais elle ne l’atteindra jamais.
2.2
RépondreEffacerL’humain n’est pas toujours logique. C’est pour cette raison entre autres qu’un humain avec le ressenti peut échouer le test de Turing, qui est supposé distinguer l’humain (machine qui ressent) d’une machine qui ne ressent pas. Ce test ressemble à un paradoxe, pour ma part. Je trouve qu’il est difficile à ce point ce de penser que l’on peut produire un algorithme de la conscience. Si on reprend l’exemple de faire un gâteau : il est vrai que l’on peut produire un algorithme pour faire un gâteau, mais par exemple moi qui suit humaine et pâtissière, je peux très bien inventer une recette de gâteau et user de ma créativité. Il est possible dans la vraie vie de transgresser les règles et en faire de nouvelles règles.
L’humain aime la certitude; ou plutôt, n’aime pas l’incertitude. Il aime être en mesure de faire du sens avec ce qui l’entoure, et cela passes par le fait de catégoriser les éléments de son environnement. Une chose n’en est pas une autre, et le même comportement n’est pas nécessairement compatible ou approprié pour interagir avec un objet dépendant des catégories auxquelles il appartient. Sous cet angle, notre cerveau tente de classer des éléments appartenant à un monde continu dans des catégories plutôt discrètes (bien qu’abstraites), ce qui nous permet de définir quels comportements sont appropriés selon les catégories auxquelles appartiennent les éléments présent dans les situations auxquelles nous devons faire face. En ce sens, notre fonctionnement cognitif pourrait s’apparenter au fonctionnement d’une machine à états discrets comme celles décrites par Turing. Une telle machine exécutera certaines fonctions si elle est confronté à ce qu’elle lit comme étant un symbole “X”, et d’autres fonctions si elle lit le symbole “Y”, selon ce que lui dicte son programme. Mais voilà: l’homme n’est pas une machine à états discrets. Notre fonctionnement interne, incluant nos sens, nos organes perceptifs, les modes de communication d’information de nos neurones, tout cela sont des systèmes à états continus. Comme c’est le cas dans le système que constitue l’univers en entier, dont nous faisons partie.
RépondreEffacerAussi, dans le texte Computing Machinery and Intelligence, au deuxième paragraphe du point #5, “Universality of Digital Computers”, Turing mentionne l’impacte surdimensionné que pourrait avoir le simple déplacement léger d’un seul électron dans notre univers continu. Ensuite, Turing explique que le fait que ce phénomène “d’effet papillon” n’arrive pas dans le système mécanique d’une machine à états discrets est une propriété essentielle du type de machine qu’il décrit. Cette propriété nous permet d’estimer d’une façon raisonnablement précise l’état d’une machine à états discrets après plusieurs étapes suivant une étape de référence dont on connaît l’état au préalable.
EffacerNous sommes portés à considérer que pour réussir le test du jeu de l'imitation de Turing, un ordinateur (ou un robot) doit arriver acquérir les capacités de l’homme. Cependant, tout bon imitateur le sait: pour bien imiter quelqu’un, il faut imiter ses caractéristiques, pas seulement ce qu’il sait bien faire. Je me pose donc la question suivante: une machine à états discrets, de par sa mécanique plus prévisible et moins faillible que l’homme, qui théoriquement ne s'emporterait pas de façon inattendue à cause d’accumulations de variables continues, pourrait-elle vraiment se faire passer pour un homme? Les lacunes de l’homme le définissent autant que ses capacités, selon moi. Peut-on réellement tenter de reproduire le comportement humain en ne visant qu’à créer quelque chose qui peut accoter ses performances, puis fort probablement les dépasser, pour ensuite ajuster les performances de notre création afin que notre ordinateur/robot soit aussi performant que la moyenne des humains? Ou est-ce que ce se serait que de ne considérer qu’un seul côté d’une médaille qui, sans son “côté obscur”, perdrait son essence? Avons-nous sous-estimé la valeur, la complexité et la singularité de nos “erreurs” humaines?..
Effacer