Esprits numériques (PHI 6385 A23)

PHI 6385 A23 Esprits Numériques
Mardi 9h30 – 12h30
Salle 422, 2910 É. Montpetit

Ce séminaire sera une plongée profonde dans les questions entourant la conscience artificielle. Les IA du futur seront-elles conscientes ? Qu’en est-il de celles d’aujourd’hui ? Comment pouvons-nous le savoir ? En quoi pourrait la conscience artificelle être semblable, ou différente, de la conscience humaine, et que pouvons-nous apprendre sur la conscience en général en y réfléchissant ?

Lectures (ci-dessous) sont protegées par un mot de passe: contactez-moi

Calendrier:

Partie I : Introduction — la conscience vs l’intelligence


5 Septembre: Introduction générale / La conscience des invertébrés

Littérature recommandé: Introduction générale

  • Chalmers, D. « Can There Be Consciousness in a Digital World? » Reality+, Ch. 15, (sur StudiUM)
  • Chalmers, D. Could a Large Language Model Be Conscious?, Boston Review, August 2023
  • Tiku, N. « The Google engineer who thinks the company’s AI has come to life » [anglais]

Littérature recommandé: La conscience des invertébrés

  • Birch, J. « The Search for Invertebrate Consciousness », [anglais]
  • Barron, A., et Klein, C. « Insects have the capacity for subjective experience », [anglais],
  • Le Neindre, P. et. al. « La conscience animale » [français]

2023 Powerpoint de Prof. Simon pour séance 1

Partie II : La conscience est-elle computationelle?


12 Septembre: Qu’est-ce que le calcul (computation) ? Qu’est-ce que c’est que de mettre en œuvre une fonction (de calcul) ?

Littérature principale

  • Turing, A. « Machines informatiques et intelligence » [français], [anglais]
  • Piccinini, G. and Bahar, S. « Neural Computation and the Computational Theory of Cognition » [anglais]
  • Klein, C. « Computation, Consciousness and `Computation and Consciousness’ », [anglais]

Littérature recommandé:

  • Marr, D.. « Vision » ch. 1. [anglais]
  • Bostrom, N. « Brain Duplication and Degrees of Consciousness », [anglais]
  • Chalmers, D. « Do Dust Clouds Run Computer Programs » Reality+, Ch. 21, (sur StudiUM)
  • Chalmers, D. « Does a Rock Implement every Finite-State Automaton? », [anglais]
  • Maudlin, T. « Computation and Consciousness », [anglais]
  • Piccinini, G. « Non-Computational Functionalism » [anglais]
  • Eliasmith, C. « Is The Brain Analog or Digital? » [anglais]
  • Maley, C.J. « Analog and Digital, Continuous and Discrete » [anglais]

2023 Powerpoint de Prof. Simon pour séance 2

19 Septembre: Arguments pour la possibilité d’une conscience de machine

Littérature principale

2023 Powerpoint de Prof. Simon pour séance 3

26 Septembre: Arguments contre la possibilité d’une conscience de machine

Littérature principale

Littérature recommandé:

  • Searle, J. « Minds, Brains and Programs », [français], [anglais]
  • Seth, A. « Being You » extraits, (sur StudiUM)
  • Simon, J. « Is Intelligence Non-Computational Dynamical Coupling? » (sur StudiUM)

2023 Powerpoint de Prof. Simon pour séance 4

3 Octobre: Quels algorithmes? Connectionisme vs Systèmes de Symboles

Littérature principale

  • Fodor, J. et Pylyshyn, Z. « Connexionnisme et architecture cognitive : Une analyse critique » [français], [anglais]
  • Smolensky, P. « Le traitement approprié du connexionnisme » [français]

Littérature recommandé:

  • Dreyfus, H. « What Computers Still Can’t Do » [anglais] (concentrez sur: “Introduction to the MIT Press Edition”)

Powerpoint de Prof. Simon pour séance 5

10 Octobre: Comment savoir ? Sur les tests et la méthodologie de la découverte

Littérature principale

  • Schneider, S. « How to Catch an AI Zombie: Testing for Consciousness in Machines » [anglais]
  • Udell, B. et Schwitzgebel, E. « Susan Schneider’s Proposed Tests for AI Consciousness: Promising but Flawed », [anglais]
  • Andrews, K. and Birch, J.. « What has Feelings? », [anglais]

Littérature recommandé:

  • Shevlin, H. « How Could We Know When a Robot was a Moral Patient? », [anglais]
  • Shanahan, M. « Beyond Humans, What Other Kinds of Minds Might be Out There? », [anglais]
  • Nagel, T. « Quel effet cela fait-il d’être une chauve-souris? » [français], [anglais]
  • Consciousness in Artificial Intelligence: Insights from the Science of Consciousness, Patrick Butlin, Robert Long, Eric Elmoznino, Yoshua Bengio, Jonathan Birch, Axel Constant, George Deane, Stephen M. Fleming, Chris Frith, Xu Ji, Ryota Kanai, Colin Klein, Grace Lindsay, Matthias Michel, Liad Mudrik, Megan A. K. Peters, Eric Schwitzgebel, Jonathan Simon, Rufin VanRullen

Powerpoint de Prof. Simon pour séance 6

17 Octobre: Semaine de Lecture

24 Octobre: Théories de la conscience : Un aperçu, et plus sur la méthodologie

Littérature principale

  • Seth, A. et Bayne, T. « Theories of Consciousness », [anglais]
  • Dehaene, S.,Lau, H., et Kouider, S.. « What is consciousness, and could machines have it? » [anglais]
  • Consciousness in Artificial Intelligence: Insights from the Science of Consciousness, Patrick Butlin, Robert Long, Eric Elmoznino, Yoshua Bengio, Jonathan Birch, Axel Constant, George Deane, Stephen M. Fleming, Chris Frith, Xu Ji, Ryota Kanai, Colin Klein, Grace Lindsay, Matthias Michel, Liad Mudrik, Megan A. K. Peters, Eric Schwitzgebel, Jonathan Simon, Rufin VanRullen

Littérature recommandé:

  • Shevlin, H. « Non-Human Consciousness and the Specificity Problem », [anglais]
  • Bayne, T. et Shea, N. « Consciousness, Concepts and Natural Kinds », [anglais]
  • Birch, J., Ginsburg, S., et Jablonka, E. « Unlimited Associative Learning and the Origins of Consciousness » [anglais]

Powerpoint de Prof. Simon pour séance 7

Partie III : LES CAPACITÉS (ET LES LIMITES) ÉTONNANTES DES RÉSEAUX NEURONAUX PROFONDS


31 Octobre: Une introduction technique aux réseaux neuronaux, de l’approximation universelle à la back propagation

Littérature principale

  • Nielsen, M. « Neural Networks and Deep Learning, Ch. 1, Ch. 4, Ch. 5 », [anglais]

Littérature recommandé:

  • Nielsen, Ch. 6, [anglais]
  • Goodfellow, I., Bengio, Y. et Courville, A. « Deep Learning », [anglais]

Powerpoint de Prof. Simon pour séance 8

7 Novembre: Vision, perception et réseaux neuronaux convolutionnels (CNN); Pensée, sens et réseaux neuronaux récurrents (RNN)

Littérature principale

  • Buckner, C. « Deep Learning: A Philosophical Introduction » [anglais]

Littérature recommandé:

  • Buckner, C. « Understanding Adversarial Examples Requires a Theory of Artifacts for Deep Learning », [anglais]
  • Alammar, J. « The Illustrated Word2Vec » (blog)
  • Prinz, J. « Empiricism and State Space Semantics » [anglais]
  • Günther, F., Rinaldi, L., et Marelli, M. « Vector-Space Models of Semantic Representation from a Cognitive Perspective: A Discussion of Common Misconceptions », [anglais]
  • Landuaer, T. et Dumais, S. « A Solution to Plato’s Problem: The Latent Semantic Analysis Theory of Acquisition, Induction and Representation of Knowledge », [anglais]
  • Piantadosi, S. et Hill, F. « Meaning without reference in large language models », [anglais]
  • Chipere, N. « Saussure’s Theory of Language », [anglais]

Powerpoint de Prof. Simon pour séance 9

14 Novembre: Désir, agence et apprentissage par renforcement

Littérature principale

  • Haas, J. « Reinforcement Learning for Philosophers » [anglais]

Littérature recommandé:

  • Berridge, K. et Kringelback, M. « Affective Neuroscience of Pleasure: Reward in humans and animals », [anglais]
  • Schroeder, T. et Arpaly, N. « The Reward Theory of Desire in Moral Psychology », [anglais]
  • Silver, D. et. al. « Reward is Enough », [anglais]
  • Amodei, D. et. al. « Concrete Problems in AI Safety », [anglais]
  • Butlin, P. « Reinforcement Learning and Artificial Agency » (ébauche) [anglais]

Powerpoint de Prof. Simon pour séance 10

21 Novembre : Penser, faire attention et prédire (Transformers et modèles génératifs)

Littérature principale

  • Lindsay, G. « Attention in Psychology, Neuroscience and Machine Learning », [anglais]

Littérature recommandé:

  • Vaswani, et. al. « Attention is all you need », [anglais]
  • Bommasani et. al. « On the Opportunities and Risks of Foundational Models », [anglais]
  • Elhage, et. al. « Softmax Linear Units », [anglais]
  • Jiang, L. « How GPT Works: A Metaphoric Explanation of Key-Value-Query in Attention Using a Tale of Potion», [anglais]
  • Google, « Background: What is a Generative Model?», [anglais]
  • Søgaard, A. « Understanding Models Understanding Language »,[anglais]
  • Landgrebe, J. et Smith, B. « Why Machines do not Understand: A Reply to Søgaard »,[anglais]

Powerpoint de Prof. Simon pour séance 11

28 Novembre: D’ici à la conscience : Déja là, mise à l’échelle, architecture, données – ou un changement complet de direction ?

Littérature recommandé:

  • Sutton, R. « The Bitter Lesson » [anglais]
  • Bubeck, S. et. al. « Sparks of Artificial General Intelligence: Early experiments with GPT-4 » [anglais]
  • Branwen, G. « The Scaling Hypothesis » (blog) [anglais]
  • Kaplan, J. et. al. « Scaling Laws for Neural Language Models », [anglais]
  • Tay, Y. et. al. « Scaling Laws vs Model Architectures: How Does Inductive Bias Influence Scaling? », [anglais]
  • Hoffman, J. et. al. « Training Compute-Optimal Large Language Models », [anglais]
  • LeCun, Y. « A Path Toward Autonomous Machine Intelligence », [anglais]
  • Bengio, Y. « The Consciousness Prior », [anglais]
  • Marcus, G. « Deep Learning is Hitting a Wall » (vulgarisation), [anglais]
  • LeCun, Y. et Browning, J. « What AI Can Tell Us About Intelligence » (vulgarisation), [anglais]
  • Marcus, G. « Deep Learning alone isn’t Getting us to Human-Level AI » (vulgarisation), [anglais]
  • Marcus, G et Davis, E. « OpenAI’s Language Generator has No Idea What Its Talking About » (vulgarisation), [anglais]
  • Alexander, S. « AI Size Solves Flubs » (blog), [anglais]
  • Marcus, G. . « What Does it mean when an AI fails? A Reply.» (blog), [anglais]
  • Alexander, S. « Somewhat Contra Marcus on AI Scaling » (blog), [anglais]
  • Marcus, G. « Does AI Really Need a Paradigm Shift? » (blog), [anglais]
  • Lemoine, B. « Is LAMDA Sentient? » (blog), [anglais]

Powerpoint de Prof. Simon pour séance 12

5 Décembre : Êtres moraux numériques : Quelques questions clés

Littérature principale

  • Schulman, C. et Bostrom, N.. « Sharing the World with Digital Minds », [anglais]
  • Schwitzgebel, E. et Garza, M. , « A Defense of the Rights of Artificial Intelligences », [anglais]

Littérature recommandé:

  • Lee, A.Y. « Speciesism and Sentientism », [anglais]
  • Park, et. al. (2023). « Generative Agents: Interactive Simulacra of Human Behavior », [anglais]
  • Goldstein, S. et Kirk-Giannini, C.D., (2023) « AI Well-Being », [anglais]
  • Xi, Z. et. al. (2023) « The Rise and Potential of LLM Based Agents – A Survey », [anglais]


Powerpoint de Prof. Simon pour séance 13

Sources électroniques utiles:
L’Encyclopédie Philosophique: http://encyclo-philo.fr/
The Routledge Encyclopedia of Philosophy: http://www.rep.routledge.com
The Stanford Encyclopedia of Philosophy: http://plato.stanford.edu/

Back To Top