Fermat a‑t-il démontré son grand théorème ?

“ Il n’est pas pos­sible de décom­po­ser un cube en somme de deux cubes, une puis­sance qua­trième en somme de deux puis­sances qua­trièmes et géné­ra­le­ment aucune puis­sance d’exposant supé­rieur à deux en deux puis­sances de même expo­sant. J’ai décou­vert une démons­tra­tion mer­veilleuse de cette pro­po­si­tion que cette marge est trop étroite pour conte­nir.”

C’est une des 47 notes (en latin) que Pierre de Fer­mat (1601−1665) écri­vit dans les marges de son exem­plaire des Arith­me­ti­ca de Dio­phante, publié par son fils après sa mort ; on ne trou­va nulle part trace de la démons­tra­tion annon­cée qui concerne, on le rap­pelle, des nombres entiers.

La “conjec­ture” exci­ta, au cours des siècles sui­vants, l’intérêt et l’imagination de mathé­ma­ti­ciens de haut vol qui firent pro­gres­si­ve­ment, grâce à des tech­niques de plus en plus com­plexes, avan­cer la limite de l’exposant pour lequel le “Grand Théo­rème” était démon­tré. Mais ce n’est qu’en 1995 que le mathé­ma­ti­cien anglais, Andrew Wiles, le démon­tra quel que soit l’exposant n – la démons­tra­tion occupe des cen­taines de pages…

Il était évident que, si Fer­mat avait dit vrai, il n’aurait pu uti­li­ser que les outils mathé­ma­tiques en usage de son temps. Serait-il pos­sible de retra­cer aujourd’hui sa démarche ? C’est le défi que rele­vèrent Laurent Hua et Jean Rous­seau ; les réflexions et recherches qu’ils firent pen­dant plu­sieurs années abou­tirent au livre qui, à défaut de réponse défi­ni­tive, ouvre des pistes intéressantes.

Dans une pre­mière par­tie, Jean Rous­seau s’est atta­ché, de façon très vivante, à situer Fer­mat dans son époque (riche en per­son­na­li­tés scien­ti­fiques) : l’homme, doté d’un carac­tère entier, le magis­trat, par­ta­gé entre Tou­louse et Castres, le savant, recon­nu, admi­ré, voire jalou­sé (notam­ment par des mathé­ma­ti­ciens anglais), plein de curio­si­té pour de nom­breux sujets – géo­mé­trie, algèbre, méca­nique, optique – aux­quels il consa­cra des “ trai­tés ” qui ne furent publiés qu’après sa mort et dont aucun ne concer­nait la théo­rie des nombres (un pro­jet res­té inabou­ti). Ce n’est que dans sa cor­res­pon­dance avec d’autres savants (rela­ti­ve­ment modeste pour l’époque : on a retrou­vé une cen­taine de lettres sur une période de trente-cinq ans) que figurent quelques lettres seule­ment où le Grand Théo­rème est men­tion­né pour les cas n = 3 et 4, ou éven­tuel­le­ment par l’intermédiaire de corol­laires du cas n = 4 .

Mais, ana­ly­sant l’ensemble de cette cor­res­pon­dance, Rous­seau en fait res­sor­tir des traits du carac­tère de Fer­mat : conscient de sa valeur et jaloux de son anté­rio­ri­té, ne dévoi­lant ses démons­tra­tions qu’après avoir lan­cé un défi, mais aus­si scru­pu­leux et de bonne foi (il recon­naît quand il s’est trom­pé ou quand il n’a pas réus­si à démontrer).

Dans la deuxième par­tie de sa vie, Fer­mat cor­res­pon­dit avec Blaise Pas­cal, son cadet de vingt-trois ans, dont il avait connu le père. Leurs échanges por­tèrent sur­tout sur le cal­cul des pro­ba­bi­li­tés. Fer­mat, très inté­res­sé par le Trai­té du tri­angle arith­mé­tique paru depuis peu, essaya sans suc­cès de faire per­sé­vé­rer son auteur dans la théo­rie des nombres, mais ne semble pas l’avoir entre­te­nu de sa conjecture.

C’est donc par­mi les 47 anno­ta­tions (sans dates, mal­heu­reu­se­ment) en marge des Arith­me­ti­ca de Dio­phante (col­lec­tion de 189 pro­blèmes) qu’on trouve 3 for­mu­la­tions dont l’une est la seule à énon­cer le Grand Théo­rème dans toute sa géné­ra­li­té (pour n = 3, n = 4 et quel que soit n > 2 ); les autres visent, direc­te­ment ou par un corol­laire, le cas n = 4 qui est sans doute celui que Fer­mat a démon­tré en pre­mier, avant le cas n = 3. Il ne faut pas oublier qu’on ne dis­pose plus que de l’exemplaire impri­mé de façon post­hume ; l’exemplaire ori­gi­nal, avec ses cor­rec­tions manus­crites qui auraient peut-être per­mis d’affiner les recherches, a disparu.

Dans une deuxième par­tie de l’ouvrage, L. Hua aborde l’aspect mathé­ma­tique de l’hypothèse avan­cée en faveur de l’affirmation de Fer­mat (déniée par la plu­part des his­to­riens et mathé­ma­ti­ciens); elle s’appuie sur les pro­prié­tés du tri­angle arith­mé­tique de Pas­cal, d’où le titre de cette par­tie : “ L’hypothèse Pascal ”.

S’appuyant sur l’analyse faite par Jean Rous­seau des lettres et notes liées au Grand Théo­rème, L. Hua admet – et rien ne per­met d’infirmer cette hypo­thèse – que Fer­mat a écrit sa note sur le Grand Théo­rème à la fin de sa vie, soit plus de vingt ans après ses pre­miers suc­cès sur les cas n = 4 et n = 3, obte­nus au moyen de la méthode (arith­mé­tique) dite de la “ des­cente infi­nie ”, méthode qui fut cepen­dant impuis­sante à trai­ter les valeurs supé­rieures de n. Mais la grande maî­trise de Fer­mat en géo­mé­trie et géo­mé­trie ana­ly­tique (dont il est, avec Des­cartes, un des fon­da­teurs) et ses réflexions sur le tri­angle arith­mé­tique de Pas­cal (dont le trai­té parut en 1654) purent lui faire aper­ce­voir une approche géo­mé­trique de sa conjecture.

En uti­li­sant le tableau des dif­fé­rences finies des puis­sances des nombres entiers et le tri­angle arith­mé­tique, L. Hua pro­pose une méthode de cal­cul condui­sant à l’attribution de coor­don­nées à une puis­sance entière d’un nombre entier et à la repré­sen­ta­tion géo­mé­trique de cette puis­sance dans l’espace de dimen­sion n. Une astuce de cal­cul per­met de repré­sen­ter géo­mé­tri­que­ment le Grand Théo­rème dans l’espace usuel à 3 dimensions.

Cette repré­sen­ta­tion fait res­sor­tir l’existence de lieux du point M de coor­don­nées fonc­tions de n et des coor­don­nées des cubes des nombres x, y et z (liés par xⁿ + yⁿ = zⁿ) ; ces lieux sont des droites pour n = 1 ou n = 2, mais, dans le cas d’existence de solu­tions pour n > 2, un fais­ceau de courbes exponentielles.

L. Hua reprend de façon plus for­ma­li­sée l’exposé mathé­ma­tique de l’approche géo­mé­trique, démon­trant trois pro­prié­tés du tri­angle de Pas­cal qui lui servent à for­mu­ler géo­mé­tri­que­ment le Grand Théo­rème. Il montre com­ment une démons­tra­tion finale – qui reste à trou­ver – per­met­trait de pen­ser que Fer­mat ne s’est pas van­té (ou trompé).

Rien n’autorise à dire que Fer­mat a uti­li­sé la méthode décrite par L. Hua ; mais le lien entre cer­tains “ outils ” dis­po­nibles à son époque (dif­fé­rences finies et tri­angle de Pas­cal, résul­tant tous deux d’un pro­ces­sus d’itération addi­tif) et la “ vision ” géo­mé­trique de l’approche de Fer­mat face aux pro­blèmes d’arithmétique donnent quelque poids à l’hypothèse.

Qui­conque a été intri­gué par cette énigme de l’histoire des mathé­ma­tiques ne pour­ra man­quer d’être inté­res­sé par la lec­ture de ce livre, et peut-être de res­sen­tir un peu de la pas­sion qui a habi­té ses auteurs en rele­vant le défi qu’ils s’étaient lancé.

Jean Rous­seau est décé­dé en février 2002.(cf In Memo­riam dans ce même numéro)

---

Articles similaires :

Des microbes ou des hommes Les libres pen­seurs face aux reli­gions dans l’histoire des civilisations Le mys­tère Coriolis Méca­nique quantique Paul Mana­cœur