Esprits numériques (PHI 6385 A24)

PHI 6385 A24 Esprits Numériques
Mardi 9h00 – 12h00
Salle 422, 2910 É. Montpetit

Ce séminaire sera une plongée profonde dans les questions entourant la conscience artificielle. Les IA du futur seront-elles conscientes ? Qu’en est-il de celles d’aujourd’hui ? Comment pouvons-nous le savoir ? En quoi pourrait la conscience artificelle être semblable, ou différente, de la conscience humaine, et que pouvons-nous apprendre sur la conscience en général en y réfléchissant ?

Lectures (ci-dessous) sont protegées par un mot de passe: contactez-moi

Calendrier:

Partie I : Introduction — la conscience vs l’intelligence

5 Septembre: Introduction générale / La conscience des invertébrés

Littérature recommandé: Introduction générale

  • Chalmers, D. « Can There Be Consciousness in a Digital World? » Reality+, Ch. 15, (sur StudiUM)
  • Chalmers, D. Could a Large Language Model Be Conscious?, Boston Review, August 2023
  • Tiku, N. « The Google engineer who thinks the company’s AI has come to life » [anglais]

Littérature recommandé: La conscience des invertébrés

  • Birch, J. « The Search for Invertebrate Consciousness », [anglais]
  • Barron, A., et Klein, C. « Insects have the capacity for subjective experience », [anglais],
  • Le Neindre, P. et. al. « La conscience animale » [français]

2024 Powerpoint de Prof. Simon pour séance 1

Partie II : La conscience est-elle computationelle?

12 Septembre: Qu’est-ce que le calcul (computation) ? Qu’est-ce que c’est que de mettre en œuvre une fonction (de calcul) ?

Littérature principale

  • Turing, A. « Machines informatiques et intelligence » [français], [anglais]
  • Chalmers, D. « Does a Rock Implement every Finite-State Automaton? », [anglais]

Littérature recommandé:

Les niveaux de calcul, d’algorithme et de mise en œuvre:

Les problèmes de trivialité:

  • Chalmers, D. « Do Dust Clouds Run Computer Programs » Reality+, Ch. 21, (sur StudiUM)
  • Maudlin, T. « Computation and Consciousness », [anglais]
  • Klein, C. « Computation, Consciousness and `Computation and Consciousness’ », [anglais]

Calcul analogique ou numérique:

  • Piccinini, G. « Non-Computational Functionalism » [anglais]
  • Eliasmith, C. « Is The Brain Analog or Digital? » [anglais]
  • Maley, C.J. « Analog and Digital, Continuous and Discrete » [anglais]
  • Piccinini, G. and Bahar, S. « Neural Computation and the Computational Theory of Cognition » [anglais]

2024 Powerpoint de Prof. Simon pour séance 2


19 Septembre: Arguments pour la possibilité d’une conscience de machine

Littérature principale

2024 Powerpoint de Prof. Simon pour séance 3

26 Septembre: Arguments contre la possibilité d’une conscience de machine

Littérature principale

Littérature recommandé:

  • Searle, J. « Minds, Brains and Programs », [français], [anglais]
  • Seth, A. « Being You » extraits, (sur StudiUM)
  • Simon, J. « Is Intelligence Non-Computational Dynamical Coupling? » [anglais]

2024 Powerpoint de Prof. Simon pour séance 4

3 Octobre: Quels algorithmes? Connectionisme vs Systèmes de Symboles

Littérature principale

  • Fodor, J. et Pylyshyn, Z. « Connexionnisme et architecture cognitive : Une analyse critique » [français], [anglais]
  • Smolensky, P. « Le traitement approprié du connexionnisme » [français]

Littérature recommandé:

  • Dreyfus, H. « What Computers Still Can’t Do » [anglais] (concentrez sur: “Introduction to the MIT Press Edition”)
  • Milliere, R. et Buckner, C. « A Philosophical Introduction to Language Models Part I: Continuity With Classic Debates » [anglais]
  • Quilty-Dunn, J., Porot, N., et Mandelbaum, E. « The best game in town: The reemergence of the language of thought across the cognitive sciences » [anglais]

2024 Powerpoint de Prof. Simon pour séance 5

10 Octobre: Théories scientifiques de la conscience

Littérature principale

  • Seth, A. et Bayne, T. « Theories of Consciousness », [anglais]
  • Dehaene, S.,Lau, H., et Kouider, S.. « What is consciousness, and could machines have it? » [anglais]
  • Consciousness in Artificial Intelligence: Insights from the Science of Consciousness, Patrick Butlin, Robert Long, Eric Elmoznino, Yoshua Bengio, Jonathan Birch, Axel Constant, George Deane, Stephen M. Fleming, Chris Frith, Xu Ji, Ryota Kanai, Colin Klein, Grace Lindsay, Matthias Michel, Liad Mudrik, Megan A. K. Peters, Eric Schwitzgebel, Jonathan Simon, Rufin VanRullen

Littérature recommandé:

  • Kuhn, R. « A landscape of consciousness : Toward a taxonomy of explanations and implications » [anglais]

2024 Powerpoint de Prof. Simon pour séance 6

17 Octobre: Comment savoir ? Sur les tests et la méthodologie de la découverte

Littérature principale

  • Birch, J. « The Search for Invertebrate Consciousness », [anglais]
  • Andrews, K. and Birch, J.. « What has Feelings? », [anglais]
  • Dung, L. « Tests of Animal Consciousness are Tests of Machine Consciousness » [anglais]
  • Bayne, T. et. al. « Tests for Consciousness in Humans and Beyond » [anglais]

Littérature recommandé:

  • Shevlin, H. « Non-Human Consciousness and the Specificity Problem », [anglais]
  • Shevlin, H. « How Could We Know When a Robot was a Moral Patient? », [anglais]
  • Bayne, T. et Shea, N. « Consciousness, Concepts and Natural Kinds », [anglais]
  • Birch, J., Ginsburg, S., et Jablonka, E. « Unlimited Associative Learning and the Origins of Consciousness » [anglais]
  • Schneider, S. « How to Catch an AI Zombie: Testing for Consciousness in Machines » [anglais]
  • Udell, B. et Schwitzgebel, E. « Susan Schneider’s Proposed Tests for AI Consciousness: Promising but Flawed », [anglais]
  • Shanahan, M. « Beyond Humans, What Other Kinds of Minds Might be Out There? », [anglais]
  • Nagel, T. « Quel effet cela fait-il d’être une chauve-souris? » [français], [anglais]

2024 Powerpoint de Prof. Simon pour séance 7

24 Octobre: Semaine de Lecture

Partie III : LES CAPACITÉS (ET LES LIMITES) ÉTONNANTES DES RÉSEAUX NEURONAUX PROFONDS

31 Octobre: Une introduction technique aux réseaux neuronaux, de l’approximation universelle à la back propagation

Littérature principale

  • Nielsen, M. « Neural Networks and Deep Learning, Ch. 1, Ch. 4, Ch. 5 », [anglais]

Littérature recommandé:

  • Nielsen, Ch. 6, [anglais]
  • Goodfellow, I., Bengio, Y. et Courville, A. « Deep Learning », [anglais]

Powerpoint de Prof. Simon pour séance 8

7 Novembre: Vision, perception et réseaux neuronaux convolutionnels (CNN); Pensée, sens et réseaux neuronaux récurrents (RNN)

Littérature principale

  • Buckner, C. « Deep Learning: A Philosophical Introduction » [anglais]

Littérature recommandé:

  • Buckner, C. « Understanding Adversarial Examples Requires a Theory of Artifacts for Deep Learning », [anglais]
  • Alammar, J. « The Illustrated Word2Vec » (blog)
  • Prinz, J. « Empiricism and State Space Semantics » [anglais]
  • Günther, F., Rinaldi, L., et Marelli, M. « Vector-Space Models of Semantic Representation from a Cognitive Perspective: A Discussion of Common Misconceptions », [anglais]
  • Landuaer, T. et Dumais, S. « A Solution to Plato’s Problem: The Latent Semantic Analysis Theory of Acquisition, Induction and Representation of Knowledge », [anglais]
  • Piantadosi, S. et Hill, F. « Meaning without reference in large language models », [anglais]
  • Chipere, N. « Saussure’s Theory of Language », [anglais]

Powerpoint de Prof. Simon pour séance 9

14 Novembre: Désir, agence et apprentissage par renforcement

Littérature principale

  • Haas, J. « Reinforcement Learning for Philosophers » [anglais]

Littérature recommandé:

  • Berridge, K. et Kringelback, M. « Affective Neuroscience of Pleasure: Reward in humans and animals », [anglais]
  • Schroeder, T. et Arpaly, N. « The Reward Theory of Desire in Moral Psychology », [anglais]
  • Silver, D. et. al. « Reward is Enough », [anglais]
  • Amodei, D. et. al. « Concrete Problems in AI Safety », [anglais]
  • Butlin, P. « Reinforcement Learning and Artificial Agency » (ébauche) [anglais]
  • Campero, A. « Report on Candidate Computational Indicators for Conscious Valenced Experience », [anglais]

Powerpoint de Prof. Simon pour séance 10

21 Novembre : Penser, faire attention et prédire (Transformers et modèles génératifs)

Littérature principale

  • Lindsay, G. « Attention in Psychology, Neuroscience and Machine Learning », [anglais]

Littérature recommandé:

  • Vaswani, et. al. « Attention is all you need », [anglais]
  • Bommasani et. al. « On the Opportunities and Risks of Foundational Models », [anglais]
  • Elhage, et. al. « Softmax Linear Units », [anglais]
  • Jiang, L. « How GPT Works: A Metaphoric Explanation of Key-Value-Query in Attention Using a Tale of Potion», [anglais]
  • Google, « Background: What is a Generative Model?», [anglais]
  • Søgaard, A. « Understanding Models Understanding Language »,[anglais]
  • Landgrebe, J. et Smith, B. « Why Machines do not Understand: A Reply to Søgaard »,[anglais]

Powerpoint de Prof. Simon pour séance 11

28 Novembre: D’ici à la conscience : Déja là, mise à l’échelle, architecture, données – ou un changement complet de direction ?

Littérature principale

  • Aru, J., Larkum, M., Shine, J. « The feasibility of artificial consciousness through the lens of neuroscience » [anglais]

Littérature recommandé:

  • Sutton, R. « The Bitter Lesson » [anglais]
  • Bubeck, S. et. al. « Sparks of Artificial General Intelligence: Early experiments with GPT-4 » [anglais]
  • Branwen, G. « The Scaling Hypothesis » (blog) [anglais]
  • Kaplan, J. et. al. « Scaling Laws for Neural Language Models », [anglais]
  • Tay, Y. et. al. « Scaling Laws vs Model Architectures: How Does Inductive Bias Influence Scaling? », [anglais]
  • Hoffman, J. et. al. « Training Compute-Optimal Large Language Models », [anglais]
  • LeCun, Y. « A Path Toward Autonomous Machine Intelligence », [anglais]
  • Bengio, Y. « The Consciousness Prior », [anglais]
  • Marcus, G. « Deep Learning is Hitting a Wall » (vulgarisation), [anglais]
  • LeCun, Y. et Browning, J. « What AI Can Tell Us About Intelligence » (vulgarisation), [anglais]
  • Marcus, G. « Deep Learning alone isn’t Getting us to Human-Level AI » (vulgarisation), [anglais]
  • Marcus, G et Davis, E. « OpenAI’s Language Generator has No Idea What Its Talking About » (vulgarisation), [anglais]
  • Alexander, S. « AI Size Solves Flubs » (blog), [anglais]
  • Marcus, G. . « What Does it mean when an AI fails? A Reply.» (blog), [anglais]
  • Alexander, S. « Somewhat Contra Marcus on AI Scaling » (blog), [anglais]
  • Marcus, G. « Does AI Really Need a Paradigm Shift? » (blog), [anglais]
  • Lemoine, B. « Is LAMDA Sentient? » (blog), [anglais]

Powerpoint de Prof. Simon pour séance 12

5 Décembre : Êtres moraux numériques : Quelques questions clés

Littérature principale

  • Schulman, C. et Bostrom, N.. « Sharing the World with Digital Minds », [anglais]
  • Schwitzgebel, E. et Garza, M. , « A Defense of the Rights of Artificial Intelligences », [anglais]

Littérature recommandé:

  • Lee, A.Y. « Speciesism and Sentientism », [anglais]
  • Park, et. al. (2023). « Generative Agents: Interactive Simulacra of Human Behavior », [anglais]
  • Goldstein, S. et Kirk-Giannini, C.D., (2023) « AI Well-Being », [anglais]
  • Xi, Z. et. al. (2023) « The Rise and Potential of LLM Based Agents – A Survey », [anglais]


Powerpoint de Prof. Simon pour séance 13

Sources électroniques utiles:
L’Encyclopédie Philosophique: http://encyclo-philo.fr/
The Routledge Encyclopedia of Philosophy: http://www.rep.routledge.com
The Stanford Encyclopedia of Philosophy: http://plato.stanford.edu/

Back To Top