Harnad, S. (2001) What's Wrong and Right About Searle's Chinese RoomArgument? In: M. Bishop & J. Preston (eds.) Essays on Searle's Chinese Room Argument. Oxford University Press.
Searle's Chinese Room Argument showed a fatal flaw in computationalism (the idea that mental states are just computational states) and helped usher in the era of situated robotics and symbol grounding (although Searle himself thought neuroscience was the only correct way to understand the mind).
Important
RépondreEffacer1. Utilizer le fureteur Chrome pour afficher vos ciélos pour le cours
2. Créer un compte gmail et mettre votre photo comme icon dans votre profil gmail
3. Quand vous faites un ciélo, quitter d'autres identités google et logger uniquement avec le gmail que vous utilisé pour le cours (sans ça google sera confus concernant votre identité et mettra "unknown" au lieu de votre nom).
4. Si vous faites ça correctement, vos noms devraient paraître avec vos ciélos. Mais jusqu'à ce que vous ne réglez ça, il faut que vous vous identifiez en mettant votre nom à la tête du texte. Sans ça je ne saurai pas qui a fait le commentaire et je ne pourrai pas le créditer.
5. Donc si vous avez affiché une ciélo anonyme, revisiter la ciélo et identifiez-vous dans une réponse. (Mais ne lâchez pas avant de régler le problème de faire désambiguïser votre identité gmail/Chrome")
Après avoir lu le texte, je ne comprends pas exactement ce que vous critiquiez dans la CRA de Searle: vous critiquiez le fait qu’il n’ait pas choisi de réfuter le computationalisme au lieu de l’IA «forte»?
RépondreEffacerParce qu’au final, vous dîtes que sa critique vous a notamment « certainement poussé la voie hybride de la mise à la terre des systèmes de symboles dans le monde sensorimoteur (T3) avec neurones...»
Le computationnalisme est la même chose que l'IA forte: La cognition = la computation.
EffacerSearle croyait qu'il avait démontré que la cognition n'était pas de la computation du tout. (Non, il n'a fait que démonter que la cognition n'est rien que la computation.) Il croyait aussi avoir démontré que le TT était invalide. (Non, il a juste démontré que le T2, passé par la computation seule, ne produirait pas la compréhension, donc pas la cognition.)
L'ancrage hybride (sensorimoteur) vendra en semaine 5 et 6.
Après avoir lu le texte 3 B) Harnad, S. (2001) What’s Wrong and Right About Searle’s Chinese RoomArgument?, je me suis attardée sur la théorie de Searle qui prouve que ce n’est pas parce qu’un système réussis à faire quelque chose qu’il le comprend. Selon la théorie de la « chambre chinoise », Searle prétend être capable de faire partir d’un système qui lui envoie des codes en chinois, et qu’il serait ainsi capable de faire des suites cohérentes (répondre à un courriel) sans comprendre le chinois ou ce qu’il écrit, seulement grâce à des symboles afin de simuler sa compréhension. Si un système réussissait le test de Turing et réussissait à penser comme un humain, cela ne voudrait pas dire qu’il comprend ce qu’il laisse paraitre (par ses réponses un courriel par exemple), puisque son système est conçu comme une machine à calculer des symboles afin de donner des réponses cohérentes. Selon la théorie du computationnalisme, on compare aussi le cerveau humain à une machine à calculer. Ainsi, tout comme l’argument de Searle de la chambre chinoise qui tente de réfuter la théorie du test de Turing, il faudrait se demander comment l’Humain, machine à calculer les symboles, est capable de comprendre ce qu’il opère.
RépondreEffacerCalculer, c'est suivre des recettes pour manipuler les symboles. Searle démontre que même si suivre une recette nous rendrait capable de clavarder le long d'une vie avec n'importe qui sur n'importe quoi, comme Riccardo, ça ne générerait la compréhension, donc la cognition.
EffacerMais la validité de cet argument dépend de la compréhension de ce que c'est que la computation (la manipulation des symboles); attention pour ne pas croire que ça suffit de dire intuitivement que la cognition, ce n'est pas calculer, sans préciser exactement comment et pourquoi!
Si je comprends bien, l’argument de départ est que les trois propositions que Searle a tenté de réfuter n’étaient pas formulées de façon à bien représenter le computionnalisme. Si elles avaient été formulées de la bonne façon au départ, certains arguments de Searle auraient été moins critiqués puisque ses arguments auraient été plus forts. Je ne suis toutefois pas certaine de comprendre votre position par rapport à l’argument de la chambre chinoise de Searle. Est-ce correcte de penser que Searle à apporté des arguments qui ont menés à de nouvelles connaissances sans toutefois que vous soyez en accord avec sa théorie?
RépondreEffacerSearle n'avait pas une théorie expliquant ce que c'est que la cognition. Il a juste démontré que la cognition ne peut pas être (uniquement) de la computation. (Là il avait raison, sauf qu'il a omis de dire « pas uniquement »; au lieu de ça il a dit, « pas de la computation du tout », et ça c'était faux.) En semaine 5-6 nous allons apprendre plus: comment ancrer les symboles pour s'immuniser contre l'argument de Searle.
EffacerÇa ressemble à quelque chose d'être dans l"état de comprendre. Il y a un ressenti qui accompagne la compréhension. Suivant la recette pour réussir le T2 par computation, Searle ne comprendrait pas. Donc la computation est insuffisante. Cela invalide la computationnelisme, mais pas le TT -- juste le T2, et juste si exécuté par seule la computation.
RépondreEffacerLe computationalisme dit que la cognition est de la computation, et que les états mentaux sont des états computationels. Donc selon cette théorie, l'esprit est un computer.
RépondreEffacerMais dans le cas de la chambre chinoise, les idéogrammes imprimés ne sont pas des états mentaux. C'est l'exécution du code sous forme dynamique qui serait un état mental.
Le test de Turing ne tranche pas la question de si l'ordinateur possède un esprit ou non. C'est simplement que nous ne pouvons pas faire mieux, empiriquement parlant, comme test.
Le contre-argument qui a été fait à Searle : certes, la personne au centre de la chambre chinoise ne comprendrait pas le chinois. Mais dans cet exemple, l'ordinateur serait la totalité de la pièce, avec les instructions, avec la personne au centre. La personne (Searle) serait juste le centre exécutif. Et dans cette considération là, l'ordinateur (dans son entièreté) comprendrait bien le chinois. La compréhension serait donc inconsciente.
Sauf que : « Des états inconscients dans un entité inconsciente (comme un grille-pain) ne sont pas des états mentaux du tout . »
Il n'y a pas de moyen de savoir si une entité possède une pensée ou non. Tout ce que je peux faire, c'est plus ou moins un test de Turing : observer cette entité, comparer les points communs qu'elle a avec moi, sa performance, son expérience. Ce test n'est pas une garantie.
Le seul moyen d'être absolument sur que l'entité possède un esprit serait de devenir cette entité.
En conclusion, la cognition, ce n'est pas QUE de la computation. Mais c'est tout de même en partie de la computation.
Bref, le test de Turing n'est pas infaillible, mais dire que la computation n'est qu'une partie de la cognition ne le réfute pas pour autant. Mais il faut différencier les états mentaux des états computationnels.
Searle devient l'entité (si la cognition n'est que de la computation) s'il exécute la computation. Pas de garantie qu'un ordi ne comprend pas, mais c'est garantie que Searle ne comprend pas, donc la computation ne suffit pas.
EffacerUn état mental est un état ressenti: pas de ressenti, pas de mentalité.
Il est dit dans cet article que nous ne sommes pas juste des ordinateurs, Searle en est la confirmation, mais j'aimerais savoir quels sont ces autres systèmes qui viendraient combler le gap. La semaine passée monsieur Harnad parlait de système robotique qui expérimenteraient le monde, ce qui semble être une alternative intéressante! Toutefois les robots pourraient-ils expérimenter les ressentis de la même façon pour qu'ils se retrouvent dans le même "état mental" que nous? Je sais que la réponse est non, mais les robots n'auraient-ils pas Besoin de ses ressentis, pour recréer nos états mentaux? Peut-être pas Toutes nos capacités et c'est ce que l'article dit.
RépondreEffacerC'est sûr que les robots peuvent ressentir: Nous sommes des robots qui ressentent! Un robot n'est qu'un système causal autonome. Donc la question est: quel sorte de robot sommes nous: c'est quoi notre mécanisme causal. Le TT cherche ça. T2 ne suffit pas, si c'est juste computationnel. T3 inclus les fonctioins dynamiques comme le mouvement et la transduction sensorielle.
EffacerHarnad prétend que « The Mental states are just implementations of (the right) computer program(s). … The code — the right code (assuming it exists) — has to be executed in the form of a dynamical system if it is to be a mental state ». En effet, les bons calculs sont nécessaires pour expliquer le fonctionnement de l’esprit. Cependant, si « Computationalism is the theory that cognition is computational » (c.-à-d., la manipulation des symboles), comme le prouve le test de Turing, ne peut-on pas soutenir que « Computationalism is the theory that cognition is [computable (c.-à-d., ce qui peut être résolu)] » ?
RépondreEffacerLe TT génère la capacité à agir. On ne peut pas observer le ressenti. Mais on peut conclure que le T2 ne suffit, s'il ne s'agit que de la computation, car Searle l'exécute sans comprendre (le ressenti manque).
EffacerCe n'est pas moi, c'est le computationnalisme qui prétend que la cognition = computation. Mais les computations doivent être exécutées par un matériel (soit l'ordi, soit Searle) ...
RépondreEffacerA quel point peut-on être sûr que les états mentaux sont « implementation independant » si, de toute façon on a besoin de cette implementation, donnant une dynamique au traitement de l’information et par là, une effectivité à la cognition, pour s’en rendre compte. L’argument me semble à première vue circulaire.
On peut être sur que la computation est indépendante du matériel qui l'implémente. C'est le computationnalisme qui prétend que la cognition n'est que de la computation (donc indépendante du matériel). Mais Searle démontre que c'est faux.
Effacer3.3
RépondreEffacerRéflexions suite au cours 3 (29/01/2019)
Si on considère la matière vue en classe jusqu’ici ET ce que Étienne dit est vrai: L’idée que la connaissance de la puissance de la computation est de simuler presque tout ce qui se trouve dans l’univers, éloigne le chercheur de la rétro ingénierie. Ce n’est pas parce qu’on réussi à simuler une situation qu’on a «compris» comment le système simulé fonctionne. Ce qui nous amène au principe de base de cause et effet (mécanique causale). Reproduire un effet n’implique pas la connaissance de la cause, car plusieurs causes peuvent produire le même effet.
Les lois logiques nous permettent de manipuler les syllogismes pour arriver déduire une conclusion logiquement valide, au même titre qu’un algorithme. Par exemple, si A implique B et B implique A alors A est équivalent à B, voilà ici la loi d’équivalence. Or, lorsque l’implication est valide dans les deux sens, comme dans cet exemple, on perd la cause car on arrive à une définition. A est B et B est A démontre la perte de la causalité.
Dès lors, on peut poser la question suivante : Comment pourrait-on réussir à résoudre le problème de la cognition si dans la computation on a justement cette perte de causalité ?
Est-ce que le fait que la mathématique peut décrire tout phénomène physique éloigne les physiciens de la capacité d'expliquer l'univers?
EffacerEst-ce que le fait que le langage peut décrire n'importe quoi verbalement nous éloigne de la rétroingénierie?
La puissance de la computation est un bénéfice, un avantage. Ce qui nous éloigne de la rétroingénierie c'est les limites de la computation, pas ses forces! Si un algorithme computationnel peut réussir T2, il faut un argument si on soutient que ça ne suffirait pas pour rétroingénierier la cognition (verbale). La puissance de la computation n'est pas un argument pour ça -- c'est plutôt le contraire!
La logique formelle, c'est de la computation. On peut simuler la causalité formellement (par la computation); mais dans le cas de T2, ou la capacité en question elle-même semble être symbolique, l'implémentation de l'algorithme T2 ne serait pas de la simulation: Ça serai de la cognition (si le computationnalisme était vrai, et il n'y avait pas l'argument de Searle ou le problème de l'ancrage).
Il n'y a pas de perte de causalité dans la computation. Par contre une simulation computationnelle de T3 (Riccardo) ne pourrait pas s'asseoir dans le cours avec nous, parce que le mouvement est dynamique. Mais une simulation de Riccardo, dans un monde également simulé, pourrait en principe nous montrer comment construire un système dynamique qui pourra réussir T3. La causalité simulés deviendrait ainsi la causalité réelle.
L’argument de la chambre chinoise de John Searle énonce que le computationnalisme (théorie selon laquelle la cognition repose uniquement sur la computation) était vrai, cela signifierait que tous les états mentaux seraient des implémentations (exécution de tâches). Il ajoute que ces implémentations mentales seraient des implémentations d’états computationnels indépendantes de celles réalisées par un ordinateur et qu’ainsi un ordinateur dans la capacité de passer le test T2 de Turing (prouvant ses capacités verbales) peut comprendre. Or, il prouve également que s’il est capable d’échanger avec une personne en chinois grâce à l’application d’un algorithme cela ne signifie pas qu’il comprend le chinois.
RépondreEffacerSon argument permet donc de conclure que la cognition ne reposerait pas uniquement sur la computation. De plus on peut ajouter que la computation serait donc une manipulation des symboles uniquement en fonction de leur forme. Il n’existe aucun lien entre le symbole et son sens pour une machine ce qui explique que Searle puisse exécuter l’association de symboles sans les comprendre.
Je vais essayer de décrire le périscope de Searle. Le périscope de Searle correspond à la partie de son argument lui permettant d’affirmer que la machine assurant une correspondance en chinois ne comprend pas le chinois. Le périscope se base sur deux des caractéristiques d’un strong AI, soit que les états mentaux correspondent à des états computationnels et que ces états computationnels sont indépendants de l’implémentation. De ces principes, il est possible d’affirmer qu’un individu assurant la correspondance en chinois sans avoir préalablement été exposé à cette langue a une expérience équivalente à celle d’une machine effectuant la même tâche. En effet, comme les états mentaux correspondent à des états computationnels et qu’un humain est une machine, les états mentaux de l’individu assurant la correspondance peuvent être considérés comme étant les états computationnels d’une machine. Ensuite, comme les états computationnels sont indépendants de l’implémentation, on peut affirmer que toute implémentation d’un même programme possède les mêmes états computationnels. Étant une implémentation d’un programme de correspondance, l’individu assurant la correspondance possède les mêmes états computationnels que toute autre machine exécutant ce programme. Bref, les états mentaux d’un individu assurant une correspondance comme décrit dans l’argument de la chambre chinoise de Searle sont équivalents aux états computationnels de toute machine exécutant le même programme. Grâce au périscope de Searle, il est possible d’affirmer que si l’état mental de l'individu assurant la correspondance correspond à l'incompréhension du chinois, l'état computationnel de toute machine exécutant le même programme sera l'incompréhension du chinois.
RépondreEffacerLa thèse forte de l'intelligence artificielle laisse sous-entendre que la thèse forte du IA est identique a la théorie du computationnalisme (cognition n'est que de la computation). La thèse forte reléve de trois caractérisques qui se voient refuter par Searl. Tout d'abord, le test de turing est décisif. Puis, la matière (cerveau) utilisé n'a pas d'importance. Finalement, la cognition est computationnel. D'autre part, Harnad reformule ces différents aspects pour se rapprocher du computationnalisme. Tout d'abord, les états mentaux ne sont que des états computationnels. Ensuite, les états computationnels sont indépendants de la structure de l'implmentation. Puis, le test de turing reste le meilleur moyen pour vérifier la présence d'états mentaux. Se que Searl dit se voit réfuté du fait que le Test de Turing ne calcul que les capacités cognitives du T2, donc si la machine computationnelle passe le T2 on a alors des états mentaux et de la compréhension.
RépondreEffacerWynn Hotel Casino & Spa Launches in Arizona, NJ
RépondreEffacerWynn 용인 출장마사지 Resorts will debut 인천광역 출장마사지 Wynn Las Vegas in September. Encore, which offers its guests the same 충주 출장마사지 daily 인천광역 출장마사지 breakfast service, will feature 춘천 출장안마