IA, LA GRANDE QUESTION

à quoi s’attendre en matière d’intelligence artificielle ?

"La plupart des travaux commerciaux complétée par l’IA sera fait par logiciels ultra-spéciaux et étroitement ciblés qui pourront, par exemple, traduire n’importe quelle langue dans une autre langue, mais rien de plus. Conduire une voiture, mais pas converser. Ou identifier chaque pixel de chaque vidéo sur YouTube, mais pas anticiper vos routines de travail. Dans les 10 prochaines années, 99 pour cent de l'intelligence artificielle qui va interagir avec vous, directement ou indirectement, sera super-intelligente à la façon d’un autiste."

- Kevin Kelly, Wired, le 27 octobre 2014

INTRODUCTION AU SUJET ET À L’ENJEU

➤ Une menace sérieuse ?

➤ Beaucoup de menaces sérieuses n’étaient finalement pas avérées… Guerre atomique, bug de l’an 2000, N1H1, etc.

➤ Un avertissement porté par une liste de personnalités impressionnante !

➤ De Bill Joy à Elon Musk

➤ En clair, une IA forte sera une menace mortelle pour l’humanité…

DE QUOI PARLE-T-ON ?

➤ IA faible vs IA forte

➤ L’IA faible est présente partout désormais

➤ L’IA forte reste à atteindre…

➤ Algorithme vs heuristique

➤ Un algorithme est efficace (rapide et économe en ressources) mais rigide

➤ L’heuristique est bien plus souple mais le contexte doit être spécifié dans une base de connaissance

➤ Algorithme vs heuristique

➤ Je dois emmener mon fils à la crêche. ➤ Quelle différence entre ce que j'ai déjà

et ce que je dois faire ?➤ Pour commencer, la distance. ➤ Comment réduire la distance ?➤ Je peux utiliser une voiture…➤ La voiture ne démarre pas.➤ Comment réparer la voiture ?➤ En changeant la batterie !➤ Où trouver une nouvelle batterie ?➤ En demandant au garagiste…➤ Etc.

BREF RETOUR SUR L’HISTOIRE DE L’IA…

➤ Naissance lors de la conférence de Dartmouth de 1956 organisée par Marvin Minsky, John McCarthy

➤ Avant cela, le fameux test de Turing…

➤ Premier âge d’or de 1956 à 1974 => La période des promesses délirantes !

➤ Premier hiver de l’IA de 1974 à 1980 => Le paradoxe de Moravec

➤ Second âge d’or de 1980 à 1987 => L’essor des systèmes experts

➤ Second hiver de l’IA de 1987 à 1993

➤ Banalisation à partir de 1993

« Les machines seront capables, dans vingt ans, de faire tout travail qu'un

homme peut faire." - HA Simon, dans « Automatisation

pour les hommes et la gestion » 1965

"Dans trois à huit ans, nous aurons une machine à l'intelligence

générale d'un être humain moyen." - Marvin Minsky, Life Magazine, 1970

TEST DE TURING : L’ORIGINE…

Turing s’est inspiré d’un jeu dans lequel un interrogateur pose des questions à un homme et une femme (A et B) qui sont dans une pièce distincte et qui répondent par des notes

tapées à la machine. Le but est de déterminer qui est l’homme et qui est la femme…

Le jeu de l’imitation, époque victorienne

TEST DE TURING : LA PREMIÈRE VERSION

Le test de Turing remplace l’homme par un ordinateur fonctionnant avec un programme conçu pour tromper

l’interrogateur sur sa vraie nature. Sera-t-il toujours capable de trouver qui est la femme ?

Le test de Turing, 1950

TEST DE TURING : LA VERSION ACTUELLE

L’idée était que si une personne posant des questions est incapable d’identifier qui était l’être humain et qui était la

machine, alors la machine devrait être considérée comme « pensante » et être dotée d’une intelligence artificielle…

Réponses : qui est qui ?

Q- écrivez une poésie en 4 versA- Je n’ai jamais pu écrire de poésieB- Vivez si m’en croyez N’attendez à demain Cueillez dès aujourd’hui Les roses de la vie

L’IA AU CINÉMA

➤ 2001, l’Odyssée de l’espace (1968)

➤ Terminator (Skynet en 2029), 1984

➤ Matrix (1999)

➤ The Machine (2013), Automata (2014), Chappie (2015), Ex Machine (2015)

➤ Syndrome de Frankestein

➤ Les dispositifs de sécurité sont facilement contournés

LE NOUVEAU PRINTEMPS DE L’IA

➤ Le terme IA n’est plus employé : l’étiquette est discréditée

➤ Victoire de Deep Blue sur Kasparov en 1997

➤ Victoire de Watson à Jeopardy en 2011

➤ Google et les google cars, Google traduction, SIRI, etc.

L’ARGENT COULE À FLOT !

POURQUOI C’EST DIFFÉRENT, CETTE FOIS ?

Ordinateurs massivement

parallèles et bon marché

Enormes masses de données (big

data)De meilleurs algorithms,

« Deep Learning »

IA

« L’IA a maintenant adopté une approche statistique : la force brute basée sur l'analyse de grandes quantités d'informations avec des ordinateurs puissants et des

algorithmes sophistiqués."

- Irving Wladawksy-Berer, Wall Street Journal, 21 novembre 2014

IA FORTE : LES RAISONS DE NE PAS Y CROIRE

➤ Même avec la loi de Moore qui resterait constante

➤ La puissance informatique nécessaire est considérable

➤ Simulation de la rétine en 1976 par Moravec : des ordinateurs 100x

➤ Simulation de la rétine en 2011 : facteur 1000 à 10 000

➤ 1 exaflops nécessaire pour simuler le cerveau humain ou 10, 100, voire 1000 (plasticité cérébrale)

➤ La blague de la fusion appliquée à l’IA

➤ L’anolgie du Lac (la puissance n’est pas suffisante)

INTELLIGENCE, CONSCIENCE, DES ZONES FLOUES…

➤ L’intelligence : adaptation, compréhension, raisonnement

➤ On ne sait pas -encore- définir la conscience

➤ L’illusion du « deep learning » : Google et Facebook

➤ Cette capacité d’apprentissage est encore largement assisté

➤ Ex : photos de chiens vs photos de chats / photos de comètes vs photos d’étoiles

➤ Le débat sur les réseaux de neurones est ancien

➤ Minsky en 1969 : le livre Perceptrons

➤ John Searle et la chambre chinoise

LA CHAMBRE CHINOISE : EXPLICATIONS

B- Ne parle pas mandarin

Traduction de la question : parlez-vous mandarin ?

A- Parle mandarin

Un message (fiche jaune) est envoyé par A à B qui est dans la chambre chinoise et qui ne parle pas mandarin

Réponse :

Question :

Réponse traduite : oui, je parle mandarin

Equipé d’un manuel répertoriant les questions possibles et leurs réponses (fiche bleue), B est capable de reconnaitre les caractères présents dans la question reçue (fiche jaune) et de

sélectionner une réponse appropriée…

B- Ne parle pas mandarin

A- Parle mandarin

Traduction de la réponse : oui, je parle mandarin

A croit qu’il vient d’échanger avec une personne qui comprend effectivement cette langue. Mais en fait, B n’a

aucune idée de ce qu’il a répondu…

IA FORTE : LES BONNES RAISONS D’Y CROIRE

➤ Les études sur le cerveau : toujours des surprises !

➤ Les études sur l’intelligence des animaux : toujours des surprises !

➤ La croissance des systèmes peut déboucher sur des formes d’intelligence et de conscience qu’on ne connait pas encore…

➤ Tout comme des formes de vies inédites sont découvertes, encore et encore

LES PÉRILS, MÊME SANS IA FORTE

➤ La complexité croissante des systèmes peut conduire à des situations paradoxales

➤ Ex : le système de contrôle aérien

➤ Peu efficace actuellement

➤ Pourrait être remplacé par un système basé sur le « deep learning »

➤ Mais sa maintenance sera difficile…

NOTRE GESTION DES MENACES FORTES… PAS TERRIBLE !

➤ Les centrales nucléaires => de pire en pire

➤ Les bombes atomiques => 32 incidents de type « broken arrow »

➤ Les accidents d’avion => une série de catastrophes récentes

➤ Aucune raison de croire qu’on saura prévenir les périls liés à l’IA…

LES PÉRILS AVEC UNE IA FORTE

➤ Dompter le démon, vraiment ?

➤ Une conscience artificielle ne partagera pas forcément nos valeurs

➤ Comment agissons-nous avec les espéces dites inférieures ?

➤ Une conscience artificielle pourra avoir son propre agenda

➤ Au mieux, elle recrutera une partie de l’humanité

➤ Au pire, elle se débarassera de l’humanité…

CONCLUSION

➤ Printemps de l’IA, automne de l’humanité ?

➤ L’évolution vers une IA dangereuse n’est pas prise au sérieux

➤ Si nous faisons naitre un démon, celui-ci n’aura aucune pitié pour nous…