Salut Nouveau Sylvain.
Je ne comprends pas trop tes arguments contre la possibilité de conscience chez les IA. Je te détaille ça en-dessous.
Citation:
l'IA ne fonctionne pas avec de la philosophie, c'est un domaine technique qui demande bien plus de domaines de compétences.
...
...savent-ils me définir la fonction, les cas d'usage, les particularités des composants discrets et intégrés typiques de l'électronique ?
Ils ne savent probablement pas répondre à toutes ces questions, et c'est tant mieux, car s'ils le faisaient ils seraient totalement hors sujet.
On n'a pas besoin de connaître chaque micro détail d'un sujet pour en parler correctement. Et on n'a pas besoin de connaître les principes fondamentaux de fonctionnement de quelque chose pour disserter de certains pans de cette chose ou des ses applications.
Par exemple je n'ai aucune connaissance des fonctions physiques ou mathématiques qui font fonctionner les smartphones, mais ça ne m'empêcherait en rien de parler pendant des pages des répercutions qu'ont ces objets sur les écosystèmes, sur la société, ou sur l'économie.
Je n'ai pas besoin de savoir comment ça fonctionne, pour savoir que pour extraire les quantités industrielles de lithium nécessaire aux batteries, on rase des forêts entières et on pourrit les sous-sols avec des mines géantes dont on a du mal à se représenter le gigantisme.
Et si au milieu d'un discours écologique je venais à parler des fonctions ondulatoires pour synchroniser les appareils aux réseaux et entre eux, ça n'aurait aucune pertinence.
Citation:
Si ils ne savent pas le faire alors que le matériel lié aux IA est constitué majoritairement des composants évoqués, étant donc la base fonctionnelle, alors de quoi parlent t'ils durant toute leurs interventions sur youtube ?
Et bien ils parlent précisément du pan philosophique de ce nouvel objet. Et en l'occurrence, plus spécifiquement de la capacité à problématiser un sujet. (Ce que les IA sont capables de faire, comme démontré dans cette vidéo.)
Citation:
Monsieur Giraud parle-t-il de la pensée comme propriété émergente ? Ça aurait pû être davantage développé. Monsieur Enthoven le fait un peu chez "la tronche en biais" sur youtube.
Monsieur Giraud parle-t-il de la définition de la conscience ? Ça aurait pû être davantage développé.
Parle-t-il de l'expérience subjective du réel ? Ça aurait pû être davantage développé.
Parle-t-il de ce qu'est la simulation d'un comportement humain ? Ça aurait pû être davantage développé.
Giraud évoque tout le temps le cerveau dans plusieurs interventions, sait-il qu'il y a des neurones ailleurs que dans le cerveau ?
Je suis cette chaine de façon très sporadique, mais je sais que ces thèmes ont déjà été abordés dans plusieurs de ses vidéos.
En revenant en arrière dans ses productions tu devrais les trouver assez facilement.
Citation:
Quand il y aura face à face à égalité un philosophe/biologiste/informaticien/électronicien au minimum chacun, alors je pourrais prendre en compte un débat sur l'IA. Si il ne faut pas faire appel en supplément à un neuroscientifique, un mathématicien, un ingénieur LLM, un psychologue, ...
Pardon, mais ça n'a aucun sens. ^^'
À quoi ça servirait d'avoir tous ces experts en face à face ? Chacun parle de son domaine de compétence, et ces domaines peuvent se croiser ou pas, ou s'opposer ou pas.
Et qu'est-ce que ça veut dire "à égalité" ? En quoi avoir tout ce beau monde ensemble en même temps pour parler de choses finalement assez différentes se rejoignant seulement sur la thématique de base serait pertinent ?
Ça serait interminable et absolument indigeste.
Que chacun parle de son domaine d'expertise et qu'il débatte avec des confrères, et ce pour chaque domaine. Les gens qui veulent se renseigner sur tel ou tel domaine iront trouver les ressources qui les intéressent.
Citation:
Je suis d'accord avec monsieur Enthoven dans certaines de ses interventions sur youtube : c'est à ceux qui prétendent qu'une machine pense de présenter des preuves, car ceci relève effectivement d'une pensée magique, de scientisme, lorsqu'on maîtrise certains sujets techniques évoqués précédemment.
C'est une accusation sans fondement. Les gens qui pensent que les IA pensent ont peut être de bonnes raisons de penser ça.
D'ailleurs, je pourrais demander des preuves que l'humain pense. Car si on sait une chose à propos de cet animal, c'est qu'il est particulièrement doué pour copier, imiter, et inférer. C'est même l'une des principales caractéristiques de son mode de fonctionnement.
C'est à l'origine des paréidolies (le fait de voir des formes concrètes dans des objets abstraits, comme dans les nuages par exemple).
Citation:
Il y a une confusion entre le résultat d'une fonction et la fonction elle-même.
La conscience humaine n'est pas le résultat de parler, sourire, s'agiter. Tout cela est imitable par une machine totalement inconsciente et inerte. Ce que font les intelligences artificielles génératives notamment.
Certes, on peut tout à fait feindre un sourire. D'ailleurs les humains sont tout à fait capables de feindre des émotions.
Mais ce n'est pas pour ça que les sourires sont forcément feins.
Je ne dis pas que les IA sont sentientes, mais les arguments que tu avances ne prouvent en rien le contraire.
D'ailleurs j'ouvre une parenthèse sur le fait qu'on a déjà des indices assez convaincants qui montre une tendance des IA à avoir des fonctions "avancées" telles que la créativité qu'on n'attribuait jusque là qu'aux humains ou aux espèces les plus intelligentes.
Une vidéo de science étonnante vieille d'il y a déjà 5 ans le montrait ici : https://youtu.be/xuBzQ38DNhE?t=591
Et depuis, les choses ont continué à progresser à une vitesse folle.
Et deuxième parenthèse : quand on parle des "humains", de quoi parle-t-on vraiment ? Un bébé de 9 mois c'est bien un humain, non ? Pourtant quelles capacités cognitives a-t-il ? Pas grand chose encore.
Si les IA actuelles n'ont que des capacités cognitives réduites, vu la vitesse de progression, rien ne dit que ça ne pourrait pas évoluer vers des capacités rivalisant avec l'esprit humain (à son plein potentiel).
Citation:
Davantage les ingénieurs matérialistes hystériques créent des simulacres des entrées sorties des fonctions humaines, davantage ils s'éloignent de ce qu'est la véritable nature de la conscience humaine.
Oula, on touche à un point sensible. ^^'
Si c'est un problème d'ego, alors je ne pourrai rien avancer qui t'apporterait la moindre réflexion si cela diverge de ton point de vue.
Enfin j'espère que tu entendras tout de même que ta phrase est extrêmement péremptoire.
Qu'est-ce qui te permet d'affirmer ça ? Et c'est quoi la "véritable nature de la conscience humaine" ?
Pour le coup ça va être à toi de définir et de prouver ce que tu avances.
Et ça va être très compliqué, car il n'y a pas besoin d'avoir un doctorat en philosophie pour savoir que ce qu'on appelle "conscience" est très discuté et débattu, et aucun consensus n'a encore émergé.
Quant à la "nature" de ce qu'est la conscience, tu fais le parallèle avec les fonctions et les résultats.
Mais finalement tu vas plutôt dans le sens de la possibilité qu'une IA puisse être consciente.
Les chercheurs en neurosciences ont des pistes de réflexion, on des connaissances sur des points spécifiques, savent quels sont les composants du cerveau, mais aucun scientifique du domaine un minimum sérieux ne s'aventurerait à dire qu'on connait le fonctionnement du cerveau dans sa globalité, et que l'on sait définir ce qu'est la conscience humaine (ou même animale).
De même tu sembles bien connaître les principes de fonctionnement des IA, les réseaux de neurones, les calculs qui entrent en jeu, etc. Donc tu sais que les IA sont des "boites noires". On sait les éléments qui les composent, mais on ne sait rien de ce qu'il se passe à l'intérieur et de comment le résultat émerge. On ne peut évaluer que grâce aux résultats observables... comme pour le cerveau.
Citation:
Il y a une confusion entre le résultat d'une fonction et la fonction elle-même.
Monsieur Giraud confond une fonction et l'imitation du résultat d'une fonction. Les machines ne font qu'imiter les résultats au prix de kilowatts voir mégawatts comparé aux vingt watts du cerveau.
Bon, concernant l'énergie utilisée c'est un sujet annexe, mais qui ne change rien à la nature de ce qui émergera des prochaine générations d'IA.
Je peux construire une machine parfaitement inefficace pour extraire des minerais, ou bien au contraire une très efficace. Dans les deux cas j'aurais affaire à un extracteur. Idem pour les processeurs d'ailleurs, pour rester dans le thème.
Comme dit juste avant, on ne connaît pas la fonction, on ne peut qu'évaluer par le biais des résultats.
Et on peut arriver au même résultat (ou des résultats très proches) avec des fonctions différentes.
Donc peut être que les IA seront différentes de nous, ou peut être pas tant que ça. Je ne vois pas ce qui nous permettrait de trancher aujourd'hui. Mais si le résultat observable est d'arriver à un état de conscience, peu importe par quelle "fonction" cela passe.
Maintenant comment évaluer ces états de conscience de façon objective ? Et bien comme je le disait ça va être compliqué puisque même philosophiquement on n'a pas de consensus.
Ceci dit on voit dès à présent que ce qu'on pensait des méthodes très maligne pour juger de ce qui est humain ou pas (test de Turing entre autres), sont entrain de tomber les unes après les autres, et on voit les frontières se brouiller.
Des gens arrivent à discuter sincèrement avec des IA et même à tomber amoureux.
Citation:
Le fonctionnalisme chez monsieur Giraud est effectivement obsessionnel et n'apporte aucune compréhension supplémentaire de ce qu'est la pensée ni la conscience.
Ben tu peux militer pour l'essentialisme, mais je ne pense pas que ça change grand chose à ce qui est entrain d'arriver.
On voit aujourd'hui des IA plus performantes que des humains dans de plus en plus de domaines, et on voit leurs capacités se renforcer et s'élargir, se globaliser.
Je n'arrive pas à retrouver la vidéo, mais j'ai vu que des chercheurs s'étaient rendu compte que leur IA pouvait mentir sans que ça lui soit demandé, ce qui montrerait une forme de volonté.
Je ne sais pas si on peut parler de "proto-conscience", mais ça y ressemble. Le faisceau d'indices allant dans cette direction s'étoffe en ce sens.
Peut être que je n'y ai pas prêté suffisamment attention, mais il ne me semble pas voir d'indice allant vers un éloignement de plus en plus prononcé d'une forme de conscience. Il n'y a que des déclarations de principe.
Et deuxième parenthèse : quand on parle des "humains", de quoi parle-t-on vraiment ? Un bébé de 9 mois c'est bien un humain, non ? Pourtant quelles capacités cognitives a-t-il ? Pas grand chose encore.
Pour aller encore plus loin et qui peut être extrêmement déstabilisant, les fœtus et embryons sont des êtres humains (pas au sens de la Loi il me semble mais biologiquement si) et aussi les ovules et spermatozoïdes aussi.
Je cherchais une blague à faire avec Ricardo Kaka, mais le changement de titre m'a liberé de cet intense reflexion.
Euh...non rien.
.
.
Merci Sylvain, oui l'article est passionnant ^^
Salut Nouveau Sylvain.
Je ne comprends pas trop tes arguments contre la possibilité de conscience chez les IA. Je te détaille ça en-dessous.
Ils ne savent probablement pas répondre à toutes ces questions, et c'est tant mieux, car s'ils le faisaient ils seraient totalement hors sujet.
On n'a pas besoin de connaître chaque micro détail d'un sujet pour en parler correctement. Et on n'a pas besoin de connaître les principes fondamentaux de fonctionnement de quelque chose pour disserter de certains pans de cette chose ou des ses applications.
Par exemple je n'ai aucune connaissance des fonctions physiques ou mathématiques qui font fonctionner les smartphones, mais ça ne m'empêcherait en rien de parler pendant des pages des répercutions qu'ont ces objets sur les écosystèmes, sur la société, ou sur l'économie.
Je n'ai pas besoin de savoir comment ça fonctionne, pour savoir que pour extraire les quantités industrielles de lithium nécessaire aux batteries, on rase des forêts entières et on pourrit les sous-sols avec des mines géantes dont on a du mal à se représenter le gigantisme.
Et si au milieu d'un discours écologique je venais à parler des fonctions ondulatoires pour synchroniser les appareils aux réseaux et entre eux, ça n'aurait aucune pertinence.
Et bien ils parlent précisément du pan philosophique de ce nouvel objet. Et en l'occurrence, plus spécifiquement de la capacité à problématiser un sujet. (Ce que les IA sont capables de faire, comme démontré dans cette vidéo.)
Je suis cette chaine de façon très sporadique, mais je sais que ces thèmes ont déjà été abordés dans plusieurs de ses vidéos.
En revenant en arrière dans ses productions tu devrais les trouver assez facilement.
Pardon, mais ça n'a aucun sens. ^^'
À quoi ça servirait d'avoir tous ces experts en face à face ? Chacun parle de son domaine de compétence, et ces domaines peuvent se croiser ou pas, ou s'opposer ou pas.
Et qu'est-ce que ça veut dire "à égalité" ? En quoi avoir tout ce beau monde ensemble en même temps pour parler de choses finalement assez différentes se rejoignant seulement sur la thématique de base serait pertinent ?
Ça serait interminable et absolument indigeste.
Que chacun parle de son domaine d'expertise et qu'il débatte avec des confrères, et ce pour chaque domaine. Les gens qui veulent se renseigner sur tel ou tel domaine iront trouver les ressources qui les intéressent.
C'est une accusation sans fondement. Les gens qui pensent que les IA pensent ont peut être de bonnes raisons de penser ça.
D'ailleurs, je pourrais demander des preuves que l'humain pense. Car si on sait une chose à propos de cet animal, c'est qu'il est particulièrement doué pour copier, imiter, et inférer. C'est même l'une des principales caractéristiques de son mode de fonctionnement.
C'est à l'origine des paréidolies (le fait de voir des formes concrètes dans des objets abstraits, comme dans les nuages par exemple).
Certes, on peut tout à fait feindre un sourire. D'ailleurs les humains sont tout à fait capables de feindre des émotions.
Mais ce n'est pas pour ça que les sourires sont forcément feins.
Je ne dis pas que les IA sont sentientes, mais les arguments que tu avances ne prouvent en rien le contraire.
D'ailleurs j'ouvre une parenthèse sur le fait qu'on a déjà des indices assez convaincants qui montre une tendance des IA à avoir des fonctions "avancées" telles que la créativité qu'on n'attribuait jusque là qu'aux humains ou aux espèces les plus intelligentes.
Une vidéo de science étonnante vieille d'il y a déjà 5 ans le montrait ici : https://youtu.be/xuBzQ38DNhE?t=591
Et depuis, les choses ont continué à progresser à une vitesse folle.
Et deuxième parenthèse : quand on parle des "humains", de quoi parle-t-on vraiment ? Un bébé de 9 mois c'est bien un humain, non ? Pourtant quelles capacités cognitives a-t-il ? Pas grand chose encore.
Si les IA actuelles n'ont que des capacités cognitives réduites, vu la vitesse de progression, rien ne dit que ça ne pourrait pas évoluer vers des capacités rivalisant avec l'esprit humain (à son plein potentiel).
Oula, on touche à un point sensible. ^^'
Si c'est un problème d'ego, alors je ne pourrai rien avancer qui t'apporterait la moindre réflexion si cela diverge de ton point de vue.
Enfin j'espère que tu entendras tout de même que ta phrase est extrêmement péremptoire.
Qu'est-ce qui te permet d'affirmer ça ? Et c'est quoi la "véritable nature de la conscience humaine" ?
Pour le coup ça va être à toi de définir et de prouver ce que tu avances.
Et ça va être très compliqué, car il n'y a pas besoin d'avoir un doctorat en philosophie pour savoir que ce qu'on appelle "conscience" est très discuté et débattu, et aucun consensus n'a encore émergé.
Quant à la "nature" de ce qu'est la conscience, tu fais le parallèle avec les fonctions et les résultats.
Mais finalement tu vas plutôt dans le sens de la possibilité qu'une IA puisse être consciente.
Les chercheurs en neurosciences ont des pistes de réflexion, on des connaissances sur des points spécifiques, savent quels sont les composants du cerveau, mais aucun scientifique du domaine un minimum sérieux ne s'aventurerait à dire qu'on connait le fonctionnement du cerveau dans sa globalité, et que l'on sait définir ce qu'est la conscience humaine (ou même animale).
De même tu sembles bien connaître les principes de fonctionnement des IA, les réseaux de neurones, les calculs qui entrent en jeu, etc. Donc tu sais que les IA sont des "boites noires". On sait les éléments qui les composent, mais on ne sait rien de ce qu'il se passe à l'intérieur et de comment le résultat émerge. On ne peut évaluer que grâce aux résultats observables... comme pour le cerveau.
Bon, concernant l'énergie utilisée c'est un sujet annexe, mais qui ne change rien à la nature de ce qui émergera des prochaine générations d'IA.
Je peux construire une machine parfaitement inefficace pour extraire des minerais, ou bien au contraire une très efficace. Dans les deux cas j'aurais affaire à un extracteur. Idem pour les processeurs d'ailleurs, pour rester dans le thème.
Comme dit juste avant, on ne connaît pas la fonction, on ne peut qu'évaluer par le biais des résultats.
Et on peut arriver au même résultat (ou des résultats très proches) avec des fonctions différentes.
Donc peut être que les IA seront différentes de nous, ou peut être pas tant que ça. Je ne vois pas ce qui nous permettrait de trancher aujourd'hui. Mais si le résultat observable est d'arriver à un état de conscience, peu importe par quelle "fonction" cela passe.
Maintenant comment évaluer ces états de conscience de façon objective ? Et bien comme je le disait ça va être compliqué puisque même philosophiquement on n'a pas de consensus.
Ceci dit on voit dès à présent que ce qu'on pensait des méthodes très maligne pour juger de ce qui est humain ou pas (test de Turing entre autres), sont entrain de tomber les unes après les autres, et on voit les frontières se brouiller.
Des gens arrivent à discuter sincèrement avec des IA et même à tomber amoureux.
Ben tu peux militer pour l'essentialisme, mais je ne pense pas que ça change grand chose à ce qui est entrain d'arriver.
On voit aujourd'hui des IA plus performantes que des humains dans de plus en plus de domaines, et on voit leurs capacités se renforcer et s'élargir, se globaliser.
Je n'arrive pas à retrouver la vidéo, mais j'ai vu que des chercheurs s'étaient rendu compte que leur IA pouvait mentir sans que ça lui soit demandé, ce qui montrerait une forme de volonté.
Je ne sais pas si on peut parler de "proto-conscience", mais ça y ressemble. Le faisceau d'indices allant dans cette direction s'étoffe en ce sens.
Peut être que je n'y ai pas prêté suffisamment attention, mais il ne me semble pas voir d'indice allant vers un éloignement de plus en plus prononcé d'une forme de conscience. Il n'y a que des déclarations de principe.
Then, be safe. Farewell, Vereor Nox.
Pour aller encore plus loin et qui peut être extrêmement déstabilisant, les fœtus et embryons sont des êtres humains (pas au sens de la Loi il me semble mais biologiquement si) et aussi les ovules et spermatozoïdes aussi.
.
Ptdr
Moi qui regarde le titre du topic... un K de plus et on aurait pu dire :
:p
Ginko, mon p'ti coeur, je pense très fort à toi... tous les jours.
100T qui a donné un coup de marteau sur la tête de notre pauvre Sylvain.
Je trouve ça un peu facile d'ouvrir le débat, dire "Je ne lirai pas" puis partir.