Bonjour à tous,

Les robots pourront-ils un jour penser ? Devenir conscientes ?  

Dans un apologue très célèbre, Alan Turing (mathématicien et inventeur du premier ordinateur) attaque ce problème d'une manière détournée.
Supposons qu'un homme dans une cabane sans fenêtres, et qu'il ait en face de lui deux autres cabanes; la première renferme un homme, l'autre une machine. Il ignore où se trouve son congénère, mais il essaie de le deviner en interrogeant chacune des cabanes. Au niveau technologique actuel, il n'aura aucun mal à savoir où est l'homme (en racontant une blague par exemple et en étudiant les réactions). Mais supposons maintenant que la machine soit suffisamment complexe qu'il est devenu impossible de distinguer l'homme de la machine. Alors il n'aura aucun moyen de savoir si la machine est consciente ou non mais le problème aura perdu tout son intérêt. En effet, qu'est-ce qui nous prouve que nos congénères sont conscients ou non ? Leur manière de parler, de répondre à nos questions, c'est-à-dire des apparences. Nous ne saurons jamais ce qu'ils ont dans leur conscience, parce que nous ne sommes pas à l'intérieur.

Ainsi, conclut Turing, on peut dire que la machine, à ce stade là, est consciente.

Que pensez-vous de cela ? Je trouve le problème passionnant.
Pour en savoir plus, rendez-vous ici.
Tous les avis sont les bienvenus.

PS: j'ai hésité à mettre ce sujet dans la catégorie "discussions générales" et "Epistémologie"... à moins que ce soit la catégorie "Informatique" qui convienne ? Si un modérateur juge qu'il est mal placé, qu'il le déplace.

Cette section convient très bien.


C'est ce qu'on appelle le "test de Turing", le fait d'arriver à distinguer une machine d'un humain ou pas ?
(Je crois me rappeler avoir lu quelque chose à ce sujet, mais je ne sais plus...)

Edit : ah oui, d'après ton site c'est ça.

Concrètement, je ne pense pas que ce soit possible.
Aux dernières nouvelles, on ne sait même pas d'où viennent les idées et l'imagination, dans le cerveau humain.
Même si on arrive à comprendre ce qui fait que nous sommes "nous" (c'est à dire que malgré le fait que nous ayons tous le même cerveau - la même structure -, nous soyons tous différents), il faudrait arriver à créer le même genre de phénomènes chez le robot.

Après la question scientifique, il y a la question "philosophique". Un robot accompli des tâches pour lesquelles il est programmé et construit. S'il a des intuitions, s'il est capable de formuler une idée et s'il possède la faculté de trancher entre le vrai et le faux, ne peut-on pas l'appeler "être humain" ?

Elrond @ 22/09/2008 - 18h13 a dit:

Un robot [...] s'il possède la faculté de trancher entre le vrai et le faux, ne peut-on pas l'appeler "être humain" ?

Juste pour ce point je pense que non (pour les autres, je n'y ai pas trop réfléchi pour le moment).

En effet on peut "trancher entre le vrai et le faux" de façon très mathématique et logique.
Si tu fais évaluer l'expression "1 = 2" à un ordinateur, il est capable de "dire" que c'est faux.

Après je suis d'accord qu'il existe des vrais et des faux plus difficiles à distinguer, relevant plus de la philosophie que de la logique.
Mais il faut bien reconnaître qu'un ordinateur s'en sort facilement pour l'une des deux catégories.

Elrond @ 22/09/2008 - 18h13 a dit:

Concrètement, je ne pense pas que ce soit possible.
Aux dernières nouvelles, on ne sait même pas d'où viennent les idées et l'imagination, dans le cerveau humain.
Même si on arrive à comprendre ce qui fait que nous sommes "nous" (c'est à dire que malgré le fait que nous ayons tous le même cerveau - la même structure -, nous soyons tous différents), il faudrait arriver à créer le même genre de phénomènes chez le robot.

Après la question scientifique, il y a la question "philosophique". Un robot accompli des tâches pour lesquelles il est programmé et construit. S'il a des intuitions, s'il est capable de formuler une idée et s'il possède la faculté de trancher entre le vrai et le faux, ne peut-on pas l'appeler "être humain" ?

Mais qu'est-ce que "penser" ? Faut-il forcément que des machines nous ressemblent pour penser ?
D'ailleurs, l'information contenue dans les ordinateurs appartient-elles au domaine de la matière ou de la pensée ?

Elrond @ 22/09/2008 - 18h13 a dit:

Un robot [...] s'il possède la faculté de trancher entre le vrai et le faux, ne peut-on pas l'appeler "être humain" ?

Un humain s'est-il déjà trancher entre le vrai et le faux ?

MarbolanGos @ 23/09/2008 - 09h04 a dit:

Elrond @ 22/09/2008 - 18h13 a dit:

Un robot [...] s'il possède la faculté de trancher entre le vrai et le faux, ne peut-on pas l'appeler "être humain" ?

Un humain s'est-il déjà trancher entre le vrai et le faux ?

Du moins est-il capable de prendre une décision qui lui parait logique/appropriée.
Je pense que le robot en est incapable, peu importe tous les progrès que l'on fait en technologie. Pour moi, la conscience (ou l'identité, si vous préférez) permet la pensée, pas l'inverse (Sum ergo cogito ? Descartes en tremblerait ). Tant que la conscience est hors de notre portée, le robot ne pourra pas prendre d'initiative.

Pour ceux qui auraient envie de tester une IA qui a passé le test de Turing, je vous met ce lien (mais c'est en anglais):

http://www.pandorabots.com/pandora/talk?botid=f5d922d97e345aa1

C'est un début, mais ce n'est pas encore parfait. Quand l'IA ne comprend pas une question, elle répond "You already know the answer", et si elle ne comprend pas une phrase affirmative, elle répond une question type du genre "How old are you ?".
Enfin au début, ce test m'a quand même bluffé !

Au passage, une autre chose qui me parait caractériser le vivant : sa mémoire. Si un robot ne peut pas se rappeler une conversation qu'il a tenu quelques minutes plus tôt, il n'apprendra jamais, et ne découvrira jamais d'autres point de vue que celui qu'on lui a conféré au moment de sa programmation.
Autrement dit : un robot peut-il évoluer par lui-même ?

La mémoire en elle-même n'est pas le principal problème (on peut stocker de grandes quantités de données sur du matériel informatique), d'ailleurs les IA on de la mémoire.
Ce qui est important c'est de savoir mettre en relation efficacement les différentes informations qu'on possède en mémoire. Ce traitement fait toute la complexité de la conception d'une intelligence artificielle.

J'ai aussi essayé de discuter avec le bot.
C'est marrant mais on trouve vite les limites : des phrases trop longues et/ou trop complexes (proposition subordonnée, etc.), des fautes d'orthographe, et généralement exprimer des idées un peu complexes suffisent à faire répondre le bot complètement à côté de la plaque, ou plus drôle encore, à le faire éluder le propos précédent.
Ça coince aussi quand on fait implicitement référence à une phrase précédente (alors qu'en conversant avec un autre humain on fait ça systématiquement et ça ne pose aucun problème).

Les IA peuvent déjà apprendre et évoluer en fonction de leur expérience.

L'exemple le plus frappant est celui des antivirus

Pour un meilleur lien vers iGOd (un autre robot qui fonctionne sur le même principe et moteur d'AI (ALICE))

http://www.titane.ca/concordia/dfar251/igod/main.html

General Vans @ 26/09/2008 - 14h43 a dit:

L'exemple le plus frappant est celui des antivirus

Tu es sûr de ça ? Les bases de données d'antivirus sont mises à jour par des humains, non ?

General Vans @ 26/09/2008 - 14h45 a dit:

Pour un meilleur lien vers iGOd (un autre robot qui fonctionne sur le même principe et moteur d'AI (ALICE))

http://www.titane.ca/concordia/dfar251/igod/main.html

J'ai testé.
Cette IA a t'elle concouru au prix Loebner aux Etats-Unis ?