1 Vincent Fleury Alan Turing, une vie de secrets Alan Mathison
Contents
1. La machine Bombe Comme on en voit encore sous les petites voitures de circuits lectriques 7 r as PA A kA S aR E La machine super Bombe dessin e par Turing utilisait 30 c urs d Enigmas motoris s en s rie de fa on tester des phrases cl s d une vingtaine de caract res Le point crucial historiquement est que apr s que la machine de Turing Bombe eut montr ses m rites une machine am lior e fut construite sous la direction d un ing nieur des t l communications Thomas Flowers qui utilisa la technologie purement lectronique des tubes vides beaucoup plus rapides que les pi ces lectrom caniques Liu Le crackage du code mettait donc toujours en uvre une machine mais de nombreuses op rations collecte des messages traitement des messages intercept s entre diverses armes efc demandaient beaucoup de main d uvre L ensemble du personnel de Bletchley Park se montait sept mille personnes L affaire ENIGMA montre que le d cryptage d une code de permutations de ce genre n cessite plusieurs ingr dients une intelligence extr me de quelques individus une intelligence collective de ces quipes qui d passe celle d un individu unique le recours des astuces d exception ou des intuitions pataphysiques qui sont le pendant pataphysicien du comportement des codeurs de la partie adverse Un peu de behaviourisme de salle de garde a contribu au d codage avec des cons quences non n glige2. bien des gards fantaisiste cette id e est relativement r pandue m me chez les scientifiques Il est noter que la machine pensante survenant ainsi fortuitement est en g n ral anim e d intentions hostiles et cherche par tous les moyens nuire aux humains Le comportement mergent a une connotation divine et se rapproche de la qu te ponctualiste du premier homme en pal ontologie humaine par opposition au gradualisme Depuis Turing de nombreux chercheurs ont produit des comparaisons entre la pens e humaine et les machines en termes de donn es brutes capacit de stockage et vitesse de traitement Turing lui m me est rest c l bre pour une pr diction les ordinateurs atteindront les capacit s de la pens e humaine en 2000 il a ensuite pr dit plut t 2050 pr diction nonc e en 1952 Certaines donn es brutes bas es sur l am lioration constante des micro processeurs plaident en faveur d un accroissement exponentiel des capacit s des ordinateurs loi de Moore et donc d un avenir prochain o les capacit s cognitives du cerveau seront atteintes voire d pass es Il n est vrai dire pas impossible que la masse actuelle de capacit de calcul disponible sur terre soit d j sur le papier sup rieure celle d un cerveau En assemblant correctement tous les ordinateurs disponibles il para t plausible qu on puisse produire une D Moore PDG d Intel s tait aper u vers 1980 que la capacit d
3. Fictionnalisons un peu ce paragraphe nous voici en 1952 1950 Alan Turing r pondant la police la police le questionnant sur ses m urs et lui r pondant a la police Quel trange parall le avec le test de Turing Turing subissant le test dont il porte le nom Ainsi le test de Turing s apparente un interrogatoire de police On est enferm on doit r pondre derri re la vitre sans tain le profiler est l qui veut savoir si vous tes une machine ou un homme un homosexuel ou un homme Qu allez vous faire Le test de Turing suppose faire semblant d tre un homme qui fait assez bien semblant gagne le droit d tre un homme On comprend qu en 1950 un homosexuel ait eu faire semblant Mais alors retournons l argument peut on penser que la meilleure discrimination si l on ose dire soit celle de la police L interrogatoire de police constitue t il la meilleure d monstration d intelligence L homosexualit constituait un d lit en 1950 en Angleterre L intelligence des ordinateurs dans l esprit de Turing tait elle un crime Elle tait au moins subversive il l a crit en ces termes h r tique Mais continuons l analogie quel sens faut il donner un interrogatoire de police interrogeant un Alan Turing pour savoir s il est un homme ou une femme quand au vrai il est homosexuel Cela tombe disons plat L humain policier posant les questions polici res ne pourra au mieux que d terminer une v rit par r
4. On computable numbers with an application to the Entscheidungsproblem Proceedings of the London Mathematical Society 42 1936 p 230 265 6 B J Copeland and D Proudfoot Alan Turing s forgotten ideas in computer science Scientific American 280 4 1999 pp 76 81 7 F Rosenblatt The perceptron a probabilistic model for information storage and organization in the brain Psychological review 65 1958 pp 386 408 8 A M Turing Computing machinery and intelligence Mind 59 1950 pp 433 460 9 A M Turing The chemical basis of morphogenesis Philosophical Transactions of the Royal Society of London B 737 1953 pp 37 72 sites web int ressants http www turingarchive org http www turing org uk turing http www mikekemble com ww2 enigma html http www infoscience fr histoire portrait turing htm http www swintons net jonathan turing htm 22
5. On peut se demander si cette allusion est intentionnelle 19 sens que l article est auto contradictoire La preuve qu un ordinateur ne pensera jamais comme un homme c est l article crit par un homme sur la possibilit que les ordinateurs pensent comme des hommes Discussion et conclusion Ainsi la vie et l uvre de Turing fascinent Sans doute les lignes qui ont pr c d ont elles v hicul ce sentiment de fascination tout en l exposant la critique On peut l gitimement interroger cette fascination Tout d abord la fascination pour Turing est le r sultat d une l vation vers l olympe d une ang lisation de Turing ou pour prendre un terme contemporain d une sorte de starisation Il est tr s frappant de constater qu on attribue Turing des m rites relativement sup rieurs ses contributions r elles Si l on observe le cas de ENIGMA il est clair que Turing n a pas crack ce code tout seul sur un coin de table Pourtant dans l imaginaire collectif Turing est une sorte d tre sup rieur qui aurait a lui tout seul vaincu la toute puissance mal fique nazie incarn e par le codage Un glissement d place le code ENIGMA vers un attribut du mal absolu le nazisme tandis que Turing l oppos prend dans le champ du mythe la place d un d miurge presque divin ayant par sa seule pens e et le sacrifice de sa carri re sinon de sa vie arr t les forces du mal On peut noter que dans un d cor et un
6. terminent les vitesses de propagations des signaux dans ces circuits de l ordre d une fraction de la vitesse de la lumi re Le m canisme de connexion du cerveau est d une toute autre nature des centres soma reliant des filaments axones dendrites neuronales en tr s grand nombre jusqu cent mille pour un neurone unique sont mis en couches par divisions cellulaires Les cellules migrent pour se positionner en certains endroits d termin s croit on par des cartes biochimiques pr natales g nes de la morphogen se mais qui incluent galement des contraintes m caniques de toutes sortes Les filaments projettent entre eux des connexions travers toutes les couches et au del vers les organes Ces connexions sont microscopiques et capables d explorer le paysage de filaments 3D pour aller se connecter au bon endroit L outil de fabrication des neurones n est pas un cadre de s rigraphie insolant tout le syst me d un coup mais un c ne de croissance qui est l chelle des filaments individuels et permet chaque neurone de se faufiler dans des chas d aiguille A nsi chaque neurone est positionn individuellement par les c nes de croissance travers tous les autres et collectivement par les cartes biochimiques les contraintes m caniques les conditions aux limites forme du cr ne par ex Pour couronner le tout le paysage final de connexions extr mement imbriqu est le r sultat d un norme lagage qui a
7. alisation effective des premiers ordinateurs Au d but des ann es 1950 Alan Turing s int ressa la r solution d quations diff rentielles au moyen de ces premiers ordinateurs enfin disponibles Il fit la d couverte de l instabilit qui porte aujourd hui son nom par laquelle adviennent ou peuvent advenir des structures en biologie Il s int ressait en particulier la forme des marguerites Il est ainsi consid r comme le fondateur de la morphogen se th orique sinon de toute la biologie math matique ou au moins de l embryologie Il appelait lui m me cette th orie l embryologie math matique H las Alan Turing fut poursuivi en justice pour rapports homosexuels une poque o cette orientation sexuelle tait ill gale dans une soci t anglaise encore tr s puritaine Il fut condamn subir des traitements aux hormones et cart des centres militaires de d cryptage dont il avait pourtant t le meilleur atout Il se suicida le 7 juin 1954 l ge de 42 ans en consommant une pomme enduite de cyanure Un dernier l ment m rite d tre mentionn dans cette introduction filante il tait un grand sportif coureur de marathon hors pair et il faillit participer aux jeux olympiques Le secret Le secret entre donc dans ce propos sous plusieurs aspects Le d cryptage des codes nazis constitue a posteriori la partie videmment la plus saillante ou en tout cas la plus romanesque de la vie de Turing
8. avoir reproduite mais n anmoins il posa un canevas permettant suivant certaines hypoth ses d y parvenir Nous montrerons plus loin ce qu il y a de contestable dans ce canevas Autour de ce canevas il broda un certain nombre de pens es originales qui d une fa on presque auto contradictoire d montrent la quasi impossibilit du projet En effet les textes de Turing relatifs la machine penser sont d une telle finesse et d un tel humour presque frivoles selon le mot de Andrew Hodges 1 2 qu ils placent la barre de la pens e humaine un niveau tr s lev inaccessible une machine avant tr s longtemps On peut dire que l exercice de pens e permettant de concevoir une machine pensante n cessite un tel envol d imagination et d humour qu il d montre presque par lui m me qu aucune machine ne pensera jamais Cette pens e touche au paradoxe de l introspection une machine pensante peut elle comprendre la marche de sa propre pens e Ou bien pour mettre la question sous une forme g delienne existe t il une pens e qui chappe toute pens e videmment on admettra ici que la pens e d un homme Turing s identifie en complexit la pens e de chaque homme Mais la vie de Turing rec le encore d autres secrets li s en particulier son orientation sexuelle L homosexualit de Turing constituait de fait un secret une seconde pens e Repla ons nous dans le contexte Turing avait eu des opportunit s
9. lieu in situ des connexions sont tablies tous azimuts puis progressivement limin es au fil de l apprentissage ou simplement du fonctionnement de fa on ce que l arborescence de connexion finale soit 13 optimis e pour ou en tout cas qu elle permette une activit c r brale donn e videmment cette description tr s sommaire doit encore mentionner le fonctionnement m me de ces filaments des ondes de d polarisation lectrique se propagent le long des filaments dans les deux sens se regroupant parfois au centre co ncidence d ondes de d polarisation ce qui d clenche de nouvelles ondes allant ailleurs Ces ondes se propagent 3D le long de ces microscopiques filaments un peu comme les ondes lectriques se propagent la surface du c ur Une mod lisation simple de ces neurones consiste r duire leur fonctionnement des connexions virtuelles simul es par ordinateur entre extr mit s permettant le d clenchement instantan d un potentiel d action le changement de la valeur d un nombre dans un registre si une certaine condition sur la somme des tats des extr mit s entr es est satisfaite par exemple si 5 extr mit s sur dix re oivent une instruction 1 alors le neurone met un z ro instantan ment en sortie vers d autres neurones On peut affecter des poids non gaux aux diff rentes extr mit s qu on appellera alors l abus de langage tant le trait le plus frappant dans ce domai
10. ne pas tre calculables par ailleurs tout syst me formel est limit par le th or me de G del qui suppose l existence de 11 propositions ind montrables l int rieur du syst me Or chacun reconna t que l homme est capable de consid rer le th or me de G del en quelque sorte de l ext rieur et contemple sans embarras les impossibilit s logiques impliqu es par le th or me qu il l ve aussit t par l exercice de son libre arbitre Les apories en quelque sorte n emp chent pas l homme de penser L oracle est dans la pens e de Turing une r ponse pragmatique un probl me non calculable Certes certains probl mes ne sont pas calculables ils ne sont pas pour autant sans solution quand aux limites du th or me de G del un choix arbitraire cr e de facto un nouveau syst me de propositions logiques Par cons quent il suffit de disposer d un tableau de r ponses sans calcul aux questions non calculables pour am liorer toute machine universelle qui aurait rencontrer ce type de probl mes Citons enfin les artistes surtout cin astes pour qui en g n ral la pens e survient d un coup dans un machine suffisamment complexe l occasion d un v nement fortuit tasse de caf renvers e sur le clavier branchement d un nouveau point de r seau internet efc cette vision artistique correspond ce qu on appelle en science un comportement mergent elle permet d avantageux proc d de sc nario Quoique
11. qui lui est advenue c est Turing lui m me Andrew Hodges ne s y est pas tromp qui a intitul sa biographie de Turing Alan Turing the enigma videmment tout un chacun sans doute et peut tre davantage les chercheurs eux m mes aimerait en quelque sorte galer Alan Turing Ce qu on sait de lui doit d tenir le secret de cette r ussite la potion magique pour tre Alan Turing Or un regard un peu n gatif ou bien plut t un peu critique sur la vie et l uvre de Turing montre qu en mati re d ENIGMA sa contribution n est pas aussi solitaire qu on veut bien le dire qu en mati re d informatique le milieu qu il fr quentait et lui m me au premier chef s est beaucoup pay de mots certes dr les et on comprend pourquoi que le test de Turing n est peut tre pas grand chose d autre qu un travail int ressant de transfert enfin il n est pas exclu que les travaux de Turing en biologie soient compl tement erron s 9 Ainsi il y a une exag ration qui rassure ou en tout cas qui pla t une exag ration naturelle Quel est le fondement de cette exag ration La raison d tre de cette exag ration selon nous est d opacifier encore plus le myst re de rendre inaccessible le vrai secret qui est celui de la vie de Turing Cette exag ration vers la mythologie cette transformation en saga a pour fonction d interdire le raisonnement pour refouler une d couverte fort simple le vrai secret c est qu il n y a pas de secret Il n y
12. tait stratosph rique ce qui est un peu le cas de l article de Turing et vrai dire sa caract ristique g n rale Le titre de cet article tait Computing machinery and Intelligence qu on pourrait traduire par La machine calculer et l intelligence L article lui m me est succulent et le parfum frivole dont il est nimb s vente beaucoup l analyse Les travaux de Turing l ayant conduit sur la voie d une machine universelle donc potentiellement pensante la question de la d finition de l intelligence humaine se posa Adoptant une attitude behaviouriste Turing proposa qu une machine serait dite pensant comme un humain si on ne pouvait gu re la distinguer d un humain pensant Pour pr ciser la fa on de proc der Alan Turing d termine l intelligence de telles machines travers le jeu de l imitation Le jeu consiste d signer un juge enfermer la machine dans un r duit et lui poser des questions au travers d un clavier ou de tout autre dispositif neutre La machine doit faire semblant d tre un humain Le juge doit dire si les r ponses lui paraissent humaines ou pas L article para t r p tons le en 1950 Or Alan Turing est arr t en 1952 pour avoir eu des rapports sexuels avec un jeune homme Il est poursuivi interrog puis condamn subir des injections d strog nes suppos es r duire sa libido ou la normaliser La condamnation inflig e ce grand esprit horrifie tout h
13. vocation d tudier l infarctus du myocarde 15 surface d un modele 3D de neurone comportant un nombre r aliste de dendrites Le type de problemes rencontr s est un peu semblable au probleme de la mod lisation de la m t o Comme chacun sait le temps ne peut pas tre calcul avec pr cision en raison de la nature chaotique des quations et de la difficult les discr tiser la surface de la Terre Le cas de la cin tique mentale est bien plus ardu puisque le support des quations n est pas une sph re comme la Terre mais un enchev trement de milliards d arbres sur lesquels se propagent des vents de pens e 100m s La difficult des simulations est en gros dans le rapport des vitesses typiques multipli par le rapport du nombre typique de points de calcul sur la terre l heure actuelle le maximum de nombre de points de calcul est de l ordre de dix mille En r sum les ordinateurs les plus puissants mis au service de la m t o ont une puissance de calcul qui est le centi me de ce qu il faudrait pour traiter un neurone unique Avec a on doit pouvoir simuler l intelligence d une amibe Ainsi Turing a contribu de fa on presque fantastique l mergence de l ordinateur ce qui a dans le m me temps fait na tre une masse de travaux scientifiques et d oeuvres de fiction mettant en opposition ou en perspective la pens e humaine et les aptitudes des ordinateurs Les performances des ordinateurs dans les dom
14. 21 Une cons quence logique de cette l vation de Turing est la suivante c est parce que Turing vaut plus que nous que nous valons autant que Turing La mise au point est faite sur Turing mais nous sommes dans le m me plan D une certaine fa on la starisation qui consiste faire monter Turing d une marche vers l olympe pour prendre acte de cette explosion de l pure s explique par ces ensembles infinis auquel on peut ajouter un ensemble arbitraire sans que leur cardinal augmente Mais chacune d entre nous abrite secr tement un tel ensemble Vincent Fleury est physicien il tudie les syst mes auto organis s et particuli rement les premiers stades du d veloppement des embryons Il est l auteur de deux essais aux ditions Flammarion Arbres de Pierres la croissance fractale de la mati re 1998 et Des pieds et des mains gen se des formes de la nature 2003 Il travaille l universit de Rennes 1 A Hodges Alan Turing the enigma London Vintage 1992 2 C Teuscher ed Alan Turing life and legacy of a great thinker Springer 2003 3 E Rakus Anderson The Polish brains behind the breaking of the Enigma code in Alan Turing life and legacy of a great thinker Christof Teuscher ed Springer 2003 pp 419 439 4 T Sale Alan Turing at Bletchley Park in world war Il in Alan Turing life and legacy of a great thinker Christof Teuscher ed Springer 2003 pp 441 462 5 A M Turing
15. Quoi de plus secret en effet que la lutte distance entre les Anglais et les nazis notamment pour la ma trise des mers Ce secret qui ne l est pas rest puisque l histoire en est sans cesse cont e lui vaut apr s coup la jalousie admirative de tous les math maticiens lecteurs de romans policiers Le d cryptage du code allemand s est jou essentiellement en deux temps et deux th tres mais toujours dans la m me ombre D abord en Pologne o d astucieux math maticiens polonais parvinrent d crypter les premiers messages issus d ENIGMA d s les ann es 1930 puis en Angleterre lorsque les complications mises en uvre par les nazis rendirent la t che insurmontable pour la petite quipe polonaise affect e cette t che ingrate Cependant d autres secrets pointent l horizon et d envergure le secret de la vie rien de moins qu Alan Turing cherchait percer l aide d outils math matiques aujourd hui universellement utilis s en biologie math matique Le secret de la pens e humaine sur lequel 4 Les taches de l opard ou de girafes sont l exemple le plus cit d instabilit de Turing bien qu il ne soit pas r ellement d montr que ces taches apparaissent par un m canisme de Turing il crivit des pages fameuses souvent inspir es tel l article o il pr sente le test de Turing cf infra On contestera videmment que Turing ait perc effectivement le secret de la pens e humaine tant on est loin de l
16. Vincent Fleury Alan Turing une vie de secrets Plus large oh foule notre audience sur ce versant d un ge sans d clin St John Perse Alan Mathison Turing est devenu ou devient peu peu une figure mythique de la science contemporaine En quelques mots math maticien g nial il d montra un th or me fameux relatif l impossibilit de pr dire l avance l arr t d un calcul effectu par une machine automatique th or me proche du th or me de G del l occasion de cette d monstration il formalisa le concept de calculabilit ou d algorithme au sens moderne et d crivit dix ans avant son existence pratique la structure th orique de l ordinateur Il d montra d s les ann es 1930 qu il existait en th orie des machines universelles capables de faire tout calcul proc dant par op rations discr tes Il mit en pratique ses id es th oriques pour proposer la construction de machines programmables Cette activit de math maticien fut interrompue en partie par la guerre de 39 40 Pendant cette p riode Alan Turing devint le point focal de l activit de d cryptage des messages de l arm e allemande Ces messages taient cod s depuis les ann es 1920 au moyen de la machine ENIGMA Turing proposa plusieurs sch mas de d cryptage bas s sur la connaissance de quelques mots et une exploration automatique d un grand nombre de cas effectu e par des machines Ces prototypes lectrom caniques de mach
17. a pas de secret Sans doute peut on tre Turing et sans doute d autres seront de nouveaux Turing occupant sa place dans le champ la position du math maticien g nial crucifi par la soci t mais il n y a pas de recette il n y a pas de mode d emploi Pour reprendre le formalisme de la machine de Turing il n y a pas d algorithme permettant de dire par avance qu on sera Turing L me humaine n est pas m canisable Chercher le secret de Turing c est serait par l tude critique biographique psychanalytique pist mologique essayer de d voiler les ressorts de l tre Turing Ce serait tout au bout de cette d marche fabriquer un ordinateur qui mulerait Turing ultime renversement de l histoire l homme recr par la machine qu il a cr e A contrario placer d embl e Turing dans un inaccessible olympe en n antifiant par avance toute tentative de le d crypter c est justement former de fa on tautologique la figure du vrai secret le vrai secret c est qu il n y a pas de secret Le vrai secret c est qu il n y a rien trouver la vie de Turing comme celle de tout homme au fond explose toutes les pures comme dit rapidement en introduction La vie de Turing forme cette figure de l homme inaccessible qui prouve l inaccessibilit de l humain et donc la propre valeur de chaque homme qui ne vaut pas Turing La mis rable machine qui n galera pas Turing ni aucun d entre nous n est l qu titre de faire valoir
18. ables sur le cours de la guerre donc celui de l humanit toute enti re on estime que le crackage de ENIGMA a raccourci la guerre d au moins un an Apr s la guerre Alan Turing fut modestement d cor pour ses contributions Retourn la vie civile il se lan a dans la construction des ordinateurs Son propre projet ne fut pas men bien mais il rejoignit l quipe de Newmann Cambridge qui construisit effectivement un des premiers ordinateurs civils Les math maticiens polonais eurent un sort moins glorieux Zygalski resta en Angleterre o il fit une carri re de professeur de math matiques au Battersea Technical College Rejewsky devint employ de bureau en Pologne apr s la guerre Rozycki disparut en mer pendant la guerre 3 La machine penser Alan Turing est l auteur de plusieurs travaux c l bres sur la machine universelle 1 2 5 la machine programmable manipulant des symboles et utilisant une bande magn tique comme support m moire Il a lui m me pr dit plusieurs reprises l av nement de machines pensantes Ses th or mes d montrent qu une machine disposant d un temps infini d un ruban magn tique infini et d une table d actions l mentaires programmables peut simuler toute 8 a Dans un tube vide le basculement 0 1 du contact est obtenu avec un faisceau d lectrons ce basculement est beaucoup plus rapide que dans les relais o une pi ce m canique tourne autre machine calcul
19. aines o l homme excelle peu agissent comme un trompe l il qui emp che de voir les limites objectives de ces machines et rebours les exc s de leur p re putatif attribuables l enthousiasme inh rent toute technique naissante Il ne fait gu re de doute que l euphorie suscit e par des expressions comme intelligence artificielle ou neurosciences computationnelles ou bien encore ordinateur quantique d passe de loin ce qui est vraiment donn voir le secret de la pens e humaine est loin d tre perc Il est int ressant de noter que l ordinateur n est qu une extrapolation lectronique d un syst me de tambours motoris s lui m me h rit d un cyclom tre con u par les Polonais pour viter de tourner les tambours la main Le fondement de l informatique se rapproche donc remarquablement de la description par Descartes d un cerveau fonctionnant avec des poulies Le test de Turing voquant les travaux d Alan Turing en mati re de machines pensantes il convient d aborder le fameux test de Turing Propos en 1950 le test de Turing est un s vice ou tout le moins une sorte de bizuthage inflig une machine se pr tendant pensante pour d terminer si on peut dire qu elle pense comme un humain Le test de Turing fut publi dans une revue de philosophie 8 l poque l intelligence artificielle tait en gestation et l on pouvait publier 16 des articles dont la hauteur de vue
20. apport l tat de la loi L tat de l humain dans la cage brise ou en tout cas secoue la distinction homme femme ne parle t on pas de 3 me sexe Cette vision polici re de l informaticien tirant les vers du nez de la machine ou de l homosexuel par un interrogatoire est tr s inqui tante On commente rarement dans le test de Turing le r le de celui qui pr pare l exp rience du juge Celui qui enferme les machines pensantes dans une pi ce est consid r comme hors jeu et n y a rien en dire tout lui est permis et les machines sont suppos es consentir cet exercice C est un des ressorts du film Blade Runner tir du livre Do androids dream of electric sheep de Phillip K Dick o Harrison Ford pose des questions la r pliquante au point que c est son humanit lui qui vacille Dans ce film le test de Turing porte le nom de test de Voigt Kempf et Harrison Ford pose des questions tr s tr s personnelles la r pliquante qui fait de la r sistance au test m me Dans la conception du sc nariste le mauvais esprit de la r pliquante est consubstantiel de son humanit Combien de chercheurs commentent le test de Turing sans sugg rer la seule r ponse valable de la part d un humain digne de ce nom allez vous faire voir qui est en gros la 18 r ponse de la r pliguante dans Blade Runner apr s quelques questions tendancieuses Il fallait un esprit s rieusement n vros en l occurrence p
21. ar un probl me de dissimulation pour inventer un test de cette nature Mais puisque nous avons choisi d inverser les dates faisons la d duction logique de cette inversion le test de Turing est une farce Turing homosexuel sait bien qu il y a dans l homme des choses ind finissables ou ineffables et dont un interrogatoire de police ne viendra pas bout Puisqu on le torture avec cela et puisqu il y a des hommes pour r duire l humain une s rie de questions alors il invente le test de Turing Que prouve le test de Turing il prouve qu il y a plus d humain dans l homme et la femme dans l homme et dans la future machine intelligente que dans celui qui pose les questions car celui qui pense arriver une conclusion d finitive en posant pareilles questions est un bourreau et donc moins humain que son cobaye Turing avec son test fait la brillante d monstration de la sup riorit de l homme victime sur l homme bourreau Et avec infiniment de subtilit il instille les attributs les plus humains fantaisie perversion double jeu apories dans la mati re m me de l informatique suppos e formelle et logique Ce qui surprend dans le test de Turing c est la fascination presque hypnotique qu il induit Or il suffit de lire le texte en pensant qu aucune machine ne sera jamais capable d crire un tel texte pour comprendre l absurdit auto r f rentielle du test de Turing Ce test n a de valeur que pour qui veut bien laisser T
22. at mat riel comparable la mati re neuronale Turing le premier a mis en avant certains arguments contre ces contradicteurs et a propos des alternatives aux machines qui portent son nom Le courant de pens e issu de ses travaux admet qu une machine presque universelle n cessairement finie n a pas besoin d un support biologique pour produire une pens e Si toute forme de pens e est calculable alors une machine universelle suffisamment rapide parviendra penser le cas ch ant par un chemin tr s d tourn de celui du cerveau Des l ments de hasard ou d environnement peuvent ventuellement tre ajout s la machine si n cessaire Certains cependant qu il convient d imiter dans une certaine mesure le fonctionnement des cerveaux simulation des connexions nerveuses par ce qu on appelle des r seaux de neurones Turing lui m me avait d j propos des syst mes de connexions adaptables Il convient de citer deux autres cat gories de personnes d une part les scientifiques qui pensent qu il faut un l ment ext rieur irrationnel par essence non calculable correspondant ce que Alan Turing appelait un oracle permettant de d passer un certain nombre de limites des machines qui ne semblent pas troubler l homme Cet oracle est un l ment irrationnel proche d une intuition L origine ou la n cessit logique de ces oracles est dans le fait qu un certain nombre de probl mes sont connus pour
23. d les r seaux de neurones sont en principe quivalents une machine universelle classique avec table d entr es sorties programmable 14 L espoir cependant est gue le probleme de la pens e ne soit gu une guestion de taille de masse de connexions apr s tout l intelligence semble venir aux humains avec l accroissement de la taille du cerveau En mettant en uvre quelques milliards de neurones num riques ayant chacun quelques milliers ou dizaines de milliers de connexion on va y arriver Ce projet semble la fois ambitieux et chim rique Pour r sumer la machine Universelle de Turing comme les ordinateurs actuels stockent et recherchent les donn es dans des m moires qui sont des tables ou des rubans la recherche suppose de lire toutes les donn es pour retrouver une adresse Ces stockages temporaires ou permanents ressemblent un peu de gros annuaires avec des s ries de caract res Le fonctionnement d un neurone r el met en co ncidence les caract res de cet annuaire directement travers l paisseur des pages par l interm diaire des filaments neuronaux arborescents Pour prendre un exemple concret dans un annuaire d environ cinq centim tres d paisseur compos de mille pages de 5 1000 de cms il faut propager une onde de pens e sur cinq centim tres pour mettre en co ncidence le mot Bi re et le mot Zythum le long d un filament neuronal ce qui prend un temps 0 05m 100 5 1000 mes de s
24. de mariage repouss es et vivait secr tement son homosexualit dans le coll ge anglais de Cambridge puis plus tard Manchester l occasion de rencontres fortuites Les ann es 1950 virent l mergence des premiers mouvements qu on qualifierait aujourd hui de gays dans les pays scandinaves que Turing suivit avec int r t Au moment de son proc s Turing affronta avec autant d humour que possible sa situation d accus s en ouvrant volontiers avec ses collaborateurs et consid rant la pers cution qui lui tait faite comme totalement absurde ce qui para t vident de nos jours N anmoins il fut contraint de choisir entre des traitements hormonaux ou la prison il choisit les injections d hormones mais peu apr s le proc s il se suicida Il travaillait les jours m mes pr c dant son suicide des travaux in dits ce jour relatifs aux spirales de Fibonacci l ordre spiral des c urs de tournesols pomme de pins efc La vie et l uvre de Turing constituent donc une exploration tout la fois de la cryptographie de la logique math matique des neurosciences de l intelligence artificielle de la guerre de 40 de la biologie fondamentale le tout piment d un peu de gender studies Autant dire que la vie et l uvre de Turing 1 2 explosent peu pr s toute pure biographique ou pist mologique nous y reviendrons L objet de ce num ro nous permet de pointer du doigt guelgues ressorts du secret tels gu on peu
25. de n importe quel type discret Turing a extrapol l id e d une machine universelle la fabrication d un ordinateur pensant Le pr requis pour forger une pens e avec de telles machines est bien entendu que le cerveau soit une sorte de machine calcul programm e Conscient d un grand nombre de difficult s Turing a labor des variantes au mod le initial de machine universelle qui souvent sont tomb es dans l oubli 6 et ont t r invent es apr s sa mort comme par exemple les r seaux de neurones En effet il avait reconnu le caract re auto organis du cerveau et il avait introduit des machines moins rigides en termes de tables d action que les machines de Turing 2 Ces machines apprennent elles m mes leurs actions l mentaires De fa on lancinante les travaux de Turing et ceux de ses successeurs portent sur la recherche de la bonne voie pour parvenir simuler reproduire artificiellement la pens e humaine Un point qui revient souvent concerne le calcul L intelligence est elle caract ris e par l aptitude au calcul Cette question ouvre plusieurs pistes pour certains types de calcul le cerveau n est pas sp cialement bon mais pour certains autres il op re tr s rapidement cf le ping pong ou bien tr s qualitativement cf les checs Les performances les plus spectaculaires virtuosit ou les plus sentimentales amour de la pens e sont elles une forme d guis e de calcul Pour ce qui
26. e sc nographie pourtant proches il n y a rien d quivalent pour la fabrication de la bombe atomique Pour le d cryptage de ENIGMA la caricature ram ne une histoire longue et complexe dans laquelle de nombreux math maticiens ont jou un r le minent un duel entre l ange et le d mon Le d mon il est vrai appara t souvent sous la forme du chiffre du code La starisation de l homme proc de donc d une ang lisation d ailleurs associ e d autres aspects de sa vie l homosexualit sorte d ind termination du sexe la crucifixion par les injections et m me les ic nes ch rubines Turing est le seul savant dont notre connaissance on montre des images d adolescent nu la verge l air Par cons quent et si l on admet ce ph nom ne on observe que le myst re ou le secret Turing est un myst re qu on complique presque intentionnellement en refoulant les indices qui permettraient de le d crypter vers les limbes de l inaccessible de l incompr hensible Telle la carotte qui fait avancer l ne on repousse devant soi le mythe perp tuellement hors d atteinte Une des raisons de cette l vation vers l olympe est assez usuelle celui qu on ne saurait soi m me galer il vaut mieux lui attribuer tous les m rites en l levant au rang de demi dieu on s vitera la comparaison 20 Mais il y a selon nous davantage Le secret le vrai secret de la vie de Turing ce n est pas l une ou l autre chose
27. e stockage des microprocesseurs doublait environ tous les 18 mois C est toujours le cas 12 me Le v ritable probleme tient non pas a la capacit individuelle des l ments ni encore moins la vitesse de traitement de l information mais bien l architecture des l ments et la circulation de la pens e sur cette architecture cin matique mentale Il est esp rer pour les partisans de l intelligence artificielle que cette architecture puisse tre mod lis e par des moyens artificiels in silico qui vitent la reproduction l identique d un cerveau En effet la construction c r brale est d une toute autre nature que les techniques de lithographies planaires utilis es pour fabriquer aujourd hui des ordinateurs h rit es de la s rigraphie Elle est videmment encore plus loign e des syst mes de tambours relais ampoules ou cartes perfor es dont disposait Turing En s rigraphie l quivalent de la technique actuelle de fabrication des composants lectroniques des motifs appliqu s sur des cadres sont report s successivement les uns sur les autres pour former un dessin plusieurs couleurs Des techniques semblables sont utilis es dans l industrie lectronique pour reporter sur de petits composants les zones conductrices et les zones isolantes tablissant le trac des connexions lectroniques du composant Les propri t s mat rielles des mat riaux employ s m taux silicium oxydes polym res d
28. econdes cependant une recherche s quentielle des mots dans l annuaire requiert un trajet de l ordre de 2000 fois la longueur de texte pr sente dans une page or la longueur de texte par page est d environ 5000 caract res dans un annuaire Le nombre d op rations logiques pour mettre en co ncidence Bi re et Zythum sera de l ordre de 10 000 000 dix millions multipli par les op rations de comparaison des caract res soit de l ordre de cent millions d op rations logiques raison de 1 Giga hertz un milliard d op rations par seconde on voit que ce temps est de l ordre de 1 10 me de seconde c est aussi le temps typique d une r ponse sur un moteur de recherche comme Google Ainsi les aptitudes apparemment lumineuses des ordinateurs ne se comparent pas si favorablement celles du cerveau d s qu on prend en compte l architecture La quantit d aller et retours n cessaires sur un ruban ou une table pour imiter des calculs de co ncidence sur des arbres est ce qui rend l ordinateur pensant chim rique Simuler directement l onde de propagation sur les arborescences neuronales est encore plus illusoire On parvient aujourd hui avec les plus grandes difficult s et les plus gros ordinateurs simuler la propagation d une onde la surface d un volume sph ro dal repr sentant le coeur nul ne peut mod liser la propagation d une onde de d polarisation la 10 UT Ces travaux sans rapport avec les neuro sciences ont pour
29. essage crypt On ne peut pas ne pas donner le nom de l inventeur d ENIGMA Arthur Scherbius L interface utilisateur tait un clavier reliant les touches aux lettres du premier tambour qui tait fixe Dans la machine commerciale de 1920 les lettres du premier tambour figuraient en rond sur le tambour dans l ordre du clavier qwertzuiop chaque nouvelle lettre frapp e au clavier les cylindres tournaient d 1 26 me de tour pour constituer un nouveau circuit lectrique donnant le codage de la lettre Comme pour les compteurs kilom triques le second cylindre tournait apr s une rotation compl te du premier et le troisi me apr s une rotation compl te du second Pour coder un message on positionnait la main les cylindres qui taient amovibles dans une configuration initiale n importe quel ordre des tambours de gauche droite n importe quelle position en rotation Le fonctionnement tait simple la substitution tr s complexe On l imagine cette machine posait des probl mes de combinatoire extr mement ardus dans lesquels les cycles de lettres jouaient un r le important par construction la machine engendrait des cycles de lettres A est cod par B B est cod par Z Z est cod par U U est cod par S S est cod par A qui avaient des propri t s math matiques particuli res aucune lettre ne codait pour elle m me Le nombre maximum de tables de transposition tait vers 1942 de 10 7 combinaisons Des d
30. est du calcul au sens arithm tique le cerveau n est pas tr s dou bien qu il soit capable si on lui en donne le temps d un calcul ad infinitum Il n y a pas de limite la dimension des chiffres qu un cerveau peu additionner ou multiplier si on lui laisse le temps et si on le munit d un support mat riel tableau papier Pour ce type d op ration le cerveau peut fonctionner en mode automatique et appliquer de fa on it rative ou r cursive une r gle simple conduisant au r sultat comme le fait un ordinateur Les th or mes de Turing portent justement sur des calculs de type r cursifs ceux que nous faisons avec un papier et un crayon Dans son esprit la machine de Turing tait aussi bien un homme effectuant le calcul Il n est pas tonnant que les ordinateurs aient assez bien r ussi dans le domaine du calcul arithm tique Cependant l homme effectue galement des calculs sur ou autour d assertions portant des quantificateurs du type il existe un nombre v rifiant telle propri t Ces propositions exigent des capacit s d abstraction qui d passent massivement les ordinateurs actuels AinPour Turing toutes les aptitudes humaines sont r ductibles des s ries d op rations l mentaires sur des nombres finis de symboles qu on crit quelque part dans une m moire ou sur un papier et qu on r emploie au fur et mesure que le raisonnement avance Comme Turing a par ailleurs montr qu une machine disposant d un
31. ifficult s inou es ont t surmont es par quelques jeunes math maticiens brillants dans ce qui fut le plus grand exercice de d cryptage de l histoire Dans la configuration finale la plus difficile et qui fut crack e par Turing et ses collaborateurs l amiraut allemande avait introduit un syst me de fiches comme les fiches des anciens standards t l phoniques permettant de permuter 12 lettres de l alphabet avant de rentrer dans le premier cylindre Le crackage du code a requis une tude tr s approfondie des combinaisons de permutations mais au final il fallait toujours une tude syst matique de cas en tr s grand nombre Ce d cryptage a donc rendu n cessaire la fabrication d appareils explorer automatiquement des combinaisons Explorer des combinaisons c est former un tat de la machine l appliquer un mot connu et tester si la s rie de lettres obtenues appara t dans le texte cod Les appareils tester taient bas s sur des machines ENIGMA travaillant en s rie Dans les premi res il fallait tourner les tambours la main Puis l apparition de complications obligea les Polonais motoriser les tambours de fa on produire toute vitesse des configurations de codage Le m lange de lettres fourni par chaque configuration tait test par comparaison avec le message intercept par des op rateurs radio en supposant connus guelgues mots du texte EINS par exemple C est dans ce secte
32. ines affin rent ses connaissances dans le domaine des relais tubes etc et lui permirent de comprendre en profondeur les possibilit s concr tes de Il s agit du Entscheidungsproblem pos par le math maticien David Hilbert Existe t il une machine qui connaissant un ensemble d axiomes et une conjecture est capable de dire en un temps limit si cette conjecture est exacte ou fausse Ces machines requi rent une table d actions entr es sorties travaillant sur des tats discrets en g n ral des r gles symboliques et un syst me de m morisation de symboles effa able et r inscriptible comportant par exemple un ruban magn tique et une t te de lecture criture Notez bien que ces id es ont pr c d l ordinateur de dix ans Le th or me n est valable que si le ruban et la dur e du calcul sont de longueurs ind finies Une machine universelle est essentiellement une machine disposant d un nombre fini d op rations mais qui peuvent tre encha n es par un programme de fa on quelconque Toute machine de Turing pouvant tre r duite une suite d op rations symboliques une machine de Turing programmable saura faire ce que fait tout autre machine et sera donc universelle Les machines universelles sont capables de faire le calcul d une autre machine mais elles ne sont pas capables de pr dire le r sultat l lectrotechnique Il proposa ainsi des sch mas de construction et contribua apr s la guerre la r
33. ne des poids ou coefficients synaptiques Des connexions plus ou moins fortes seront associ es des coefficients plus ou moins grands Ce mod le le perceptron 7 est cens mod liser les neurones ou plut t un id al de neurone Adapter un neurone lui faire apprendre quelque chose c est trouver les coefficients du perceptron connaissant le r sultat que doit fournir en sortie le perceptron pour certaines entr es au fil des exemples qu on lui pr sente le perceptron acquiert de l exp rience et se corrige par un algorithme inverse Ces mod les sont r cents et bien post rieurs l uvre de Turing Pourtant Turing les avait anticip s dans des travaux rest s m connus sur les unorganized machines qui commencent tre tudi s par les historiens des sciences Il va sans dire que les mod les de r seaux de neurones simulent assez m diocrement le neurone r el dans sa phase de fonctionnement et absolument pas le neurone r el dans sa phase d apprentissage ce qui est sans doute le point le plus critiquable Ces mod les n ont pas fourni de r sultats tr s sup rieurs aux autres approches Ils remplacent la propagation relativement lente des ondes synaptiques et les m canismes de co ncidence par des basculements en tout ou rien d interrupteurs lectroniques en outre l apprentissage est effectu par des op rations du type r solution d quations lin aires plusieurs inconnues En tout tat de cause les mo
34. onn te homme contemporain titre d exercice intellectuel supposons qu Alan Turing ait t emprisonn en 1950 et que son article sur l intelligence des machines soit paru en 1952 Cette simple inversion de dates 19501952 provoque un retournement complet de l analyse du fameux test de Turing Comment se retournement s op re t il Le test de Turing commence par un exemple visant d terminer non pas si une machine est intelligente ou pas mais si un tre humain est homme ou femme Ainsi on doit selon Turing placer un homme et une femme dans une pi ce ferm e et leur poser des questions jusqu pouvoir affirmer A est la femme et B est l homme A et B sont suppos s tromper leur juge Mais Turing tait homosexuel Le probl me d identification du genre tait son probl me lui il n tait pas d un genre d fini par les canons de la soci t de son temps Enferm dans une pi ce et r pondant des questions qu aurait il r pondu Qu auraient pens les interlocuteurs Il faut pr ciser que le test de Turing s agissant d un test du genre comme d un test d intelligence suppose que l homme dans le premier cas la machine dans le second trompe constamment ou essaie de tromper l interlocuteur Turing appelle son test le Jeu de l Imitation Or quoi de plus enfoui dans Alan Turing que le fait de faire constamment semblant de dresser des paravents entre lui et les autres entre lui et sa m re lui et les militaires etc 17
35. ruban infini et 10 d une table d action programmable peut faire le m me travail que toute machine finie fonctionnant avec des tables d actions l mentaires l hypoth se pr c dente implique que le cerveau peut tre mod lis par un ordinateur suffisamment grand Ces affirmations font l objet on s en doute d une paisse bibliographie de contradicteurs Une chose sera ici tenue pour certaine les aptitudes mentales humaines sont le fruit d une activit lectro chimique plut t iono chimique se produisant l int rieur de la t te dans un organe qui est le cerveau et ses d pendances En r gle g n rale l intelligence artificielle ou les neurosciences computationnelles reconnaissent la modestie de leurs r sultats et la pr diction de Turing ne s est pas r alis e L objectif tr s long terme reste la r alisation d une pens e autonome semblable celle de l homme mais par des moyens technologiques tout solide que fournira l industrie de l lectronique Turing en tait convaincu Il semble parfois acquis dans cette discipline bien que les preuves du contraire abondent que la technique permettra une norme conomie de moyens et qu on n aura pas r aliser un cerveau en tant que tel Mais bien des chercheurs pensent que le cerveau est un objet biologique issu d une volution inimitable en raison de sa structure biologique et qu on ne saurait faire une machine pensante qui ne serait pas incarn e dans un substr
36. s de la cryptographie le secret percer est celui du codage dans le cas d ENIGMA ce codage tait effectu avec un m langeur tambours Le cryptage est une op ration de permutation sur les lettres de l alphabet qui doit tre r versible et dont l op ration d inversion doit tre connue de la personne qui re oit le message En ce sens le secret de la cryptographie est un secret dont on sait qu il peut tre perc si l on a en main le texte cod l algorithme de reconstitution du texte en clair existe coup s r mais dans un espace de m lange de lettres qui peut tre d une complexit inou e Entre la fin des ann es 20 et 1943 les Allemands utilis rent des formes de plus en plus raffin es de ENIGMA qui sont d crites dans un livre r cent rassemblant plusieurs tudes relatives la vie de Turing 2 on peut consulter galement des sites webs sp cialis s par exemple http www mikekemble com ww2 enigma html Le r le minent et discret des jeunes math maticiens polonais Rejewski Zygalski et Rozycki est d crit dans 3 4 le r le du jeune m di viste Hinsley 22 ans est racont sur le site ci dessus La reconnaissance de ces contributions et de beaucoup d autres mod re l lan vers l olympe donn Turing par sa post rit La Pologne pays fragile et menac par le Reich nazi avait tr s t t compris qu il fallait surveiller les communications des arm es allemandes Elle avait mont une quipe de tr
37. s jeunes math maticiens recrut s sur deux crit res la connaissance de l allemand et des bons r sultats en maths Apr s un cours de cryptologie les premiers d crypter un authentique message allemand avaient t s lectionn s pour entrer dans le laboratoire secret de cryptologie de l arm e polonaise Poznan puis pour former le bureau du chiffre Leur seul adversaire ENIGMA ENIGMA invent e vers 1918 permettait de crypter des messages avec des syst mes de roues codantes Chaque roue comportait un c blage interne par fils lectriques d une permutation ou d une transposition de l alphabet entre le c t gauche et le c t droit du tambour et les roues sises c t les unes des autres encha naient les substitutions par simple 5 Il n en va pas de m me par exemple du d cryptage du g nome en g n tique Les termes d cryptage du g nome humain ou alphabet g n tique sont un peu trompeurs au sens o il n existe aucune op ration de lecture des lettres du g nome permettant de comprendre la vie Entre les lettres du g nome et la vie op rent plusieurs niveaux d interm diaires physiques et chimiques absents du g nome lui m me contact jusqu neuf niveaux de substitution de l alphabet La machine tait r versible son m canisme g n rait le correspondant crypt d une lettre mais l inverse le m me syst me donnait en clair la lettre correspondant une lettre d un m
38. t les inf rer de la place occup e aujourd hui par Turing L objet de cet article est de montrer gue les secrets de la vie de Turing se d cantent au cceur de ses admirateurs en un secret unigue le secret de Turing lui m me Le secret de l homme Turing pose la question et r pond a la question tous les hommes se valent ils qu est ce que je vaux moi Pour ressentir le fil qui conduit d une vie de secrets au secret de sa vie et de notre vie tous il nous faut revenir sur quelques pisodes de la vie et de l uvre de Turing qui ne sont sans doute pas familiers tous les lecteurs Nous ferons ce retour en trois parties l une consacr e au d cryptage d ENIGMA la seconde consacr e la formalisation des machines de Turing et la perspective de la machine pensante la troisi me consacr e au test de Turing et au lien avec son homosexualit ENIGMA La machine ENIGMA ENIGMA est le nom d une machine qui fut utilis e pendant vingt ans par l arm e allemande nazie pour crypter ses communications Environ vingt mille machines ENIGMA disposant de diverses variantes furent mises en circulation et affect es diverses armes amiraut train etc La machine de l amiraut tait la plus sophistiqu e D crypter les messages secrets militaires tait on s en doute de la plus grande n cessit pendant la guerre Mais c tait d j avant la guerre une question de survie pour des tats comme la Pologne Dans le ca
39. ur gue l lectronique rentra en jeu l tape lente tait la comparaison des r sultats avec une partie du message intercept Dans la premi re machine polonaise il fallait deux heures pour tester les 17567 combinaisons des 3 tambours Cette tape tait effectu e lectro m caniquement contacteurs balais Des subtilit s lectrom caniques substitution par paires des lettres de la machine finale de l amiraut donc des difficult s math matiques rendirent le d chiffrage impossible par les Polonais faute de moyens d s 1939 et les Polonais pass rent toutes leurs informations aux Anglais y compris les copies des machines fabriqu es par eux Les Anglais au premier rang desquels A Turing prirent le relais Bletchley Park o tait regroup e la fine fleur de la cryptologie anglaise Turing put tablir un certain nombre de r gles portant sur les cha nes de caract res g n r s par ENIGMA partir de ces relations et de la connaissance d un mot ou la reconnaissance des lettres les plus fr quentes e Turing et ses collaborateurs parvinrent r duire l arborescence de recherche permettant de trouver le circuit travers les tambours ayant effectu le m lange et produire une m thode de d chiffrement pour chaque nouveau code Dans la machine con ue par Turing entre autres progr s le test de co ncidence entre les hypoth ses et le message intercept tait obtenue plus rapidement avec des relais
40. uring parler Il n a aucune valeur scientifique c est un test contrafactuel sur un objet qui n existe pas Ce n est ni une d finition ni une axiomatique il ne contient aucune d monstration Sur le plan scientifique ce n est strictement rien C est n anmoins un texte Qui a lu le test de Turing est stup fait par le ton et la mani re de cet article Turing passe de la recherche du sexe des arguments scientifiques des plus fantaisistes il passe en revue des arguments par exemple th ologiques discutant sans rire le caract re h r tique d un ordinateur pensant pour qui croit que l intelligence humaine est une cr ation divine Il pr sente par ailleurs avec s rieux les arguments de la t l pathie et de la t l kin se expliquant qu il conviendrait de mettre la machine dans une pi ce r sistant aux transmissions t l pathiques car selon lui les statistiques montrent de fa on crasante la r alit de la t l pathie et bien entendu la t l pathie risque de troubler l exp rience Mais bien s r Et tout ceci passe dans le gosier des informaticiens sans qu on s tonne L article de Turing est une farce rafra chissante dont aucun ordinateur ne sera jamais capable C est en ce 11 Il est a remarquer que dans le film Blade Runner la belle tr s belle r pliquante trouve les questions tellement tendancieuses qu elle finit par demander le test vise t il d terminer si je suis un humain ou bien une lesbienne
Download Pdf Manuals
Related Search