GEORGE BERKELEY : LA LIBRE-PENSÉE EN MATHÉMATIQUES

Quand l’évêque Berkeley dénonçait la libre-pensée, le philosophe Berkeley la revendiquait. Et quand l’évêque Berkeley dénonçait la libre-pensée des mathématiciens, c’était l’occasion, pour le philosophe Berkeley, de revendiquer à l’égard des mathématiques un droit de libre examen, droit sur lequel aucune autorité ne devait prévaloir. Retourner la libre-pensée contre la libre-pensée, tel est le principe de l’ouvrage consacré par Berkeley (1685-1753) aux mathématiques de son époque, et spécialement à l’analyse, d’où son titre : L’Analyste.[1]

L’ouvrage fut publié simultanément à Londres et à Dublin, en 1734. Après sa période américaine et l’échec du projet d’évangélisation des Bermudes, Berkeley résidait alors à Londres, dans l’attente de sa nomination officielle à l’évêché de Cloyne, en Irlande.

L’Analyste est dédié « à un mathématicien incrédule ». Bien qu’il soit souvent, dans l'ouvrage, question de Newton, et que ce dernier y soit souvent critiqué, ce "mathématicien incrédule" n'est pas Newton. Il s’agit probablement d’Edmund Halley, qui fut d’une certaine façon à l’origine de la publication des Principia. De Berkeley lui-même, nous n’avons qu’une vague indication, selon laquelle Addison lui aurait « certifié que l’incrédulité d’un mathématicien notoire était la raison principale qu’un homme d’esprit de notre époque donnait de son incrédulité »[2]. Stock, le premier biographe de Berkeley, sans doute renseigné par le frère de l’évêque, raconte ainsi l’histoire : «L’occasion de L’Analyste fut la suivante. Addison avait rendu compte à l’évêque de l’attitude de leur ami commun, le Dr Garth, lors de sa maladie fatale, attitude propre à déplaire à ces deux défenseurs de la religion révélée. Car lorsque Addison, s’étant rendu au chevet du docteur, avait commencé à l’entretenir sérieusement d’une préparation à sa fin prochaine, l’autre lui avait fait la réponse suivante : ‘Assurément, Addison, j’ai de bonnes raisons de ne pas croire à ces bagatelles, puisque mon ami le Dr Halley, qui est si compétent en matière de démonstration, m’a assuré que les doctrines chrétiennes étaient incompréhensibles, et la religion elle-même une imposture’. Cela incita l’évêque à prendre les armes contre ce redoutable spécialiste de la démonstration, et à lui adresser L’Analyste dans l’intention de montrer à quel point il était injuste, de la part des mathématiciens, de reprocher à la foi ses mystères, alors qu’ils en admettent de bien plus grands, et même des faussetés, dans la science, ce dont la doctrine des fluxions fournit un exemple éminent, ainsi qu’il s’efforça de le prouver ». Il s’agit donc bien de retourner la libre-pensée contre la libre-pensée. Si tous les mathématiciens ne sont pas des libres-penseurs, ceux qui le sont le sont d’autant plus dangereusement que leur titre de mathématiciens confère à leurs opinions le prestige de la clarté et de la rigueur. Il y a une libre-pensée mathématicienne, en ce sens qu’elle invoque l’autorité des mathématiques, et c’est cette autorité que la libre-pensée philosophique entend contester. 

Cela est confirmé par le sous-titre de L’Analyste : « Dissertation où l’on examine si l’objet, les principes et les inférences de l’Analyse moderne sont conçus plus distinctement ou déduits avec plus d’évidence que les Mystères de la religion et les règles de la Foi ». Ce qui est visé, c’est « l’analyse moderne », à savoir le calcul newtonien des fluxions et le calcul différentiel de Leibniz, ces deux méthodes, surtout la première, étant caractérisées par leur prétention à la rigueur absolue, en opposition à la modestie de méthodes plus anciennes comme l’exhaustion ou même les indivisibles : selon Berkeley, ces anciennes méthodes ne visaient qu’à l’approximation, alors que l’analyse prétend à bien davantage. Berkeley annonce que son enquête se déroulera sur un double plan : 1. Savoir si « l’objet » de l’analyse est « distinctement conçu ». 2. Savoir si « les principes et les inférences » de l’analyse permettent des « déductions évidentes ». Chacun de ces aspects sera référé à son correspondant religieux : 1. Les « Mystères de la religion ». 2. Les « règles de la Foi ».

Berkeley se présente lui-même, dans la page de titre, comme « l’auteur du Petit philosophe ». Référence significative est donc faite à un ouvrage datant de 1732, Alciphron ou Le Petit philosophe, en sept dialogues, contenant une défense de la religion chrétienne contre ceux qui sont appelés libres-penseurs. Étaient visés dans cet ouvrage les philosophes libres-penseurs, Mandeville et Shaftesbury. La référence au sous-titre de l’Alciphron montre que Berkeley a voulu faire de L’Analyste une sorte de suite, étendant la lutte contre la libre-pensée jusqu’au domaine où elle se nourrit de l’autorité reconnue aux mathématiciens.

La présentation de l’ouvrage s’achève sur une célèbre citation biblique : « Ôte d’abord la poutre de ton œil, alors tu verras clair pour ôter la paille dans l’œil de ton frère » (Matthieu, VII, 5). Lorsque ceux qui refusent l’autorité de la religion semblent avoir l’autorité pour le faire, il est légitime de leur appliquer leur propre principe. Lorsqu’ils se moquent des mystères sacrés, il est juste qu’on examine si leurs notions manifestent bien cette clarté qu’ils prétendent mesure de toutes choses. Si ce n’est pas le cas, si ces notions se révèlent confuses et incompréhensibles à qui s’efforce de les penser librement, on dispose contre eux d’une arme polémique redoutable. Comme Berkeley l’écrit lui-même : « L’analyse moderne ne fournit-elle pas un puissant argumentum ad hominem contre les incrédules contemporains, amoureux des mathématiques ? » Et n’est-il pas, ce polémiste-né, le champion de l’argumentum ad hominem ?

*

**

Comme c’était à prévoir dans ces conditions, la polémique qui suivit L’Analyste fut vive. Berkeley était bien entendu soutenu par le clan des évêques. L’évêque de Londres, Gibson, se référa à L’Analyste dans deux lettres adressées à Berkeley, écrivant en particulier : « les hommes de science (une génération pleine de vanité) sont les principaux adversaires de la religion révélée, et ils ont eu tout loisir de l’attaquer. Nous sommes très reconnaissants à Votre Seigneurie d’avoir répliqué à leurs arguments en les attaquant sur leur propre terrain ». Les newtoniens défendirent avec acharnement l’autorité de leur maître. James Jurin, fellow de Trinity College à Cambridge, écrivit en 1734 La géométrie n’est pas l’amie de l’incrédulité, ou Défense de sir Isaac Newton et des mathématiciens britanniques, Lettre à l’auteur de L’Analyste. En 1735, J. Walton, un professeur de Dublin, publia une Apologie des principes des fluxions de sir Isaac Newton, contre les objections contenues dans L’Analyste. Le texte de Jurin est souvent maladroit et excessif ; il crie à l’inquisition : « Pour l’amour de Dieu, sommes-nous en Angleterre ou en Espagne ? » Berkeley eut alors beau jeu de lui répondre par un nouvel opuscule, intitulé Défense de la libre-pensée en mathématiques. Estimant que la critique de Walton n’était guère différente de celle de Jurin, il ne consacra à la première qu’un simple appendice. Jurin répliqua de nouveau, d’une façon encore plus violente, dans Le petit mathématicien, ou Le libre-penseur n’est pas un penseur juste (1735), brochure à laquelle Berkeley ne daigna pas répondre. Walton répliqua également, dans sa Réponse complète au catéchisme de l’auteur du Petit philosophe, texte auquel Berkeley répondit, ironiquement, dans ses Raisons pour ne pas répondre à la Réponse complète de M. Walton.

Quand cette polémique immédiate fut retombée, on put mesurer la véritable portée de L’Analyste. Historiquement, nous devons constater ce fait : Berkeley a été pris au sérieux par les mathématiciens. Fait curieux, car ce qui vient d’être dit inciterait plutôt à ranger L’Analyste dans la catégorie des œuvres purement polémiques. Certes, Buffon, dans l’introduction de sa traduction d’un traité de Newton, continue à n’y voir qu’un écrit de circonstance, valable surtout pour l’habileté dialectique de son auteur (qu’il nomme bizarrement « Berckey »), mais totalement déficient sur le plan mathématique. C’est là l’opinion d’un newtonien sectaire. En Angleterre, une fois les esprits calmés, les héritiers de Newton tendent à corriger sur plusieurs points le calcul des fluxions, comme pour le mettre à l’abri des critiques de Berkeley. C’est le cas de Benjamin Robins dans son Discours sur la nature et la certitude des fluxions (1735). C’est même le cas de John Colson, qui se charge, en 1736, de la publication de la Méthode des fluxions et des suites infinies de Newton. Colson précise dans sa préface : « Comme je suis désireux de rendre ceci aussi satisfaisant que possible, en particulier pour le très érudit et ingénieux auteur de la dissertation appelée L’Analyste …, je m’efforcerai d’obvier à certaines de ses principales objections à l’égard de la méthode des fluxions ». Lorsque Bayes publie en 1736 son Introduction à la doctrine des fluxions, et défense des mathématiciens contre les objections de l’auteur de L’Analyste, dans la mesure où elles visent les méthodes générales du raisonnement, ce titre même indique que le ton n’est plus à la polémique primaire. Ce sera également le cas dans le grand Traité des fluxions de Maclaurin (1742).

Il y a plus. Berkeley soutient que si l’analyse, malgré l’obscurité de son objet et le manque de rigueur de ses raisonnements, parvient à des résultats exacts, c’est parce que les erreurs qu’on y commet, étant égales et de sens contraire, se compensent à l’insu de ceux qui pratiquent cette méthode. La théorie de la compensation des erreurs, dont Poincaré pense qu’elle se trouve déjà chez Leibniz, sera développée abondamment par Lagrange dans sa Note sur la métaphysique du calcul infinitésimal de 1761, et surtout par Lazare Carnot dans ses Réflexions sur la métaphysique du calcul infinitésimal de 1797. Cajori écrira, dans son Histoire des mathématiques (1893) : « En Angleterre, les principes des fluxions furent l’objet d’une attaque audacieuse de la part de l’évêque Berkeley, l’éminent métaphysicien. Argumentant avec une grande acuité, il affirma, entre autres, que l’idée fondamentale selon laquelle un rapport fini subsiste entre des termes absolument évanescents – les « fantômes des quantités défuntes », comme il les appelle – cette idée est absurde et inintelligible. Dans sa réponse, Jurin ne parvint pas à écarter toutes les objections. Berkeley fut le premier à mettre en relief ce que montra plus tard Lazare Carnot, à savoir que les résultats corrects ne sont obtenus que par une compensation des erreurs ». Le même Cajori choisira un portrait de Berkeley comme frontispice à son Histoire des conceptions sur les limites et les fluxions en Grande Bretagne, de Newton à Woodhouse (1919).

Tout cela justifie une étude de L’Analyste. Il faudra d’abord se demander si l’argumentation ad hominem est purement de circonstance ou si elle exprime une tendance fondamentale de la philosophie de l’auteur. On présentera ensuite l’analyse moderne telle qu’elle pouvait apparaître à Berkeley et à ses contemporains. On étudiera pour finir les principales objections adressées par l’évêque philosophe aux modes de raisonnement utilisés dans cette analyse, en particulier l’idée qu’elle ne parvient à des résultats exacts qu’en vertu d’une compensation d’erreurs : y a-t-il là une contribution positive de Berkeley à l’histoire des mathématiques ?

*

**

Une argumentation ad hominem comme celle qui forme la trame de L’Analyste ne risque pas seulement de paraître purement circonstancielle et polémique, elle risque surtout de paraître un peu faible. Il ne suffit pas, en effet, de dénoncer la poutre dans l’œil du mathématicien, et de laisser subsister l’idée d’une paille dans l’œil du théologien. Buffon écrivait : « Selon lui [Berkeley], le calcul de l’infini est un mystère plus grand que tous les mystères de la religion, il les compare ensemble comme choses du même genre ». Or l’évêque Berkeley ne voulait certainement pas maintenir la moindre comparaison entre les mystères de l’analyse moderne, provenant de ce que les mathématiciens n’ont aucune idée claire de ce dont ils parlent, si bien que la raison doit les rejeter, et les mystères de la religion devant lesquels la raison doit s’incliner ; entre l’autorité de Newton, qui ne sert qu’à couvrir les premiers, et l’autorité de Dieu, qui nous impose de croire aux seconds. S’il propose une argumentation dont la nature est de suggérer cette comparaison, ce n’est pas seulement à cause de sa vertu polémique immédiate, c’est surtout parce qu’elle exprime, dans sa structure si particulière (retournement de la libre-pensée contre la libre-pensée), le mouvement essentiel de sa philosophie.

La philosophie de Berkeley est une philosophie de la croyance : les contenus sont  posés comme des contenus de croyance, les raisons sont posées comme des raisons de croire ou de ne pas croire, et c’est en tant que croyants que les mathématiciens vont être critiqués.

Afin d’éclairer le sens de cette critique, arrêtons-nous un instant sur le thème le plus connu de la philosophie de Berkeley, le fameux immatérialisme. Nous croyons à l’existence d’un monde extérieur. Quelles sont nos raisons d’y croire, quelle est, dirons-nous, la foi du charbonnier à ce sujet ? Nous croyons à l’existence des choses parce que nous les voyons, les touchons, etc. Pour le sens commun, « esse est percipi ». La réflexion philosophique fait certes remarquer que les données sensibles sont dans l’esprit, que ce sont des « idées » : il n’y a rien là, pense Berkeley, qui soit contraire à la croyance du sens commun. Que les choses soient des idées, cela n’enlève rien à leur réalité, dès lors qu’on peut les distinguer du rêve, de l’imagination. Or on peut les distinguer, puisque ces idées sont reliées entre elles de façon stricte et contraignante : c’est ainsi que les idées visuelles sont reliées aux idées tactiles. Ces relations strictes et contraignantes sont parfaitement arbitraires, comme dans une langue le lien entre le mot et ce qu’il signifie : nous découvrons le monde extérieur comme nous apprenons une langue. Celui qui nous parle cette langue s’adresse directement à notre esprit. En croyant au monde extérieur, nous obéissons à la parole divine, nous croyons en Dieu. La philosophie du sens commun est un spiritualisme intégral.

Mais la philosophie savante va se faire libre-pensée, et contester cette croyance. Sous prétexte que les données sensibles sont dans l’esprit, elle prétend que la réalité extérieure doit être cherchée au-delà de la perception, hors de l’esprit, de l’intelligence, dans une substance matérielle indépendante, un « je ne sais quoi » opaque, qui nous éloigne de Dieu, qui fait écran entre Dieu et nous. Elle ruine ainsi la valeur de toutes les idées que nous avons (et auxquelles nous devons croire avec obéissance, puisqu’elles nous sont données), au profit d’une idée que nous n’avons pas, que nous ne pouvons pas avoir : comment pourrais-je avoir dans ma pensée l’idée de ce qui est extérieur et étranger à la pensée ? Pourtant, nombreux sont ceux qui croient, ou s’imaginent croire, à cette substance matérielle dont ils n’ont pas la moindre idée. L’unique moyen de restaurer l’autorité de Dieu est de détruire cette croyance, cette véritable idolâtrie, de se faire incroyant, incrédule, libre-penseur contre la libre-pensée de la philosophie savante.

Remontons jusqu’à la racine de la fausse croyance. Ceux croient à la substance matérielle croient donc avoir une idée qu’en réalité ils n’ont pas. Et ils le croient, explique Berkeley, de la même façon qu’ils s’imaginent posséder toutes sortes d’« idées générales abstraites » : par exemple l’idée d’homme, l’idée de couleur, l’idée d’espace, etc. Contre ce genre de croyance, rien ne vaut l’argument ad hominem le plus brutal : avez-vous réellement une idée de couleur ? Nous n’avons certes aucune idée d’une couleur qui ne serait ni le bleu, ni le jaune, ni le rouge, et nous n’avons pas davantage l’idée d’une couleur qui serait tout cela à la fois : la première idée serait vide, la seconde serait contradictoire. Nous pouvons malgré tout croire posséder de telles idées, parce que l’usage ordinaire du langage nous y incite : la généralité et l’abstraction du mot « couleur » sont prises à tort pour le signe d’une présence de l’idée générale et abstraite de couleur. La poussière des mots du langage humain vient alors brouiller la véritable langue, celle que Dieu nous parle.

L’idée de « substance matérielle » est un cas particulier, un cas extrême d’idée générale abstraite : son objet est censé se trouver partout, dans cette chose, dans cette autre, dans une autre encore …, sans pouvoir résider spécifiquement dans aucune en particulier. Elle subit donc la loi que subissent toutes ces prétendues idées : soit elle est vide parce que son objet n’est nulle part, soit elle est contradictoire parce qu’il est partout. C’est au nom du même principe que les mathématiques, l’ « analyse moderne » en particulier, vont être critiquées.

Berkeley aimait les mathématiques et détestait les mathématiciens. Ses premiers ouvrages furent une Arithmétique et des Mélanges mathématiques. Il n’en considérait pas moins les mathématiciens de son temps comme de nouveaux scolastiques : « Je ne vois d’esprit, écrivait-il, chez aucun d’entre eux, Newton excepté. Les autres ne sont que de purs faiseurs de vétilles, purs nihilariens (nihilarians) »[3]. Les mathématiques apparurent vite à Berkeley comme un terrain privilégié de l’idolâtrie, et cela pour deux raisons : d’abord l’illusion qui nous fait voir dans l’objet mathématique un exemple parfait des fameuses idées générales abstraites, ensuite le caractère foncièrement autoritariste du métier de mathématicien.

En ce qui concerne la première raison, on entend souvent dire que l’objet véritable du géomètre n’est pas tel triangle, mais le triangle en soi : or nous n’avons aucune idée d’un triangle qui ne serait ni scalène, ni isocèle, ni équilatéral, mais cependant tout cela à la fois. D’où vient alors, objectera-t-on à Berkeley, la capacité du géomètre à établir des théorèmes universels ? Les idées générales abstraites ne sont-elles pas indispensables en mathématiques ? Voici sa réponse : « Bien que l’idée que j’ai en tête pendant que je fais ma démonstration soit celle, par exemple, d’un triangle rectangle isocèle dont les côtés sont d’une longueur déterminée, je peux néanmoins être certain que cette idée s’étend à tous les autres triangles, quelles que soient leur figure et leur grandeur. Et ceci, parce que ni l’angle droit, ni l’égalité ou la longueur déterminée des côtés, n’interviennent en rien dans la démonstration. Il est vrai que la figure que j’ai en tête comprend tous ces particuliers ; mais ensuite, aucune mention n’est faite de ces derniers pour prouver la proposition : on ne dit pas que les trois angles sont égaux à deux droits parce que l’un des deux est un angle droit, ou parce que les côtés adjacents sont de la même longueur. Ce qui suffit pour montrer que l’angle droit aurait pu être oblique, les côtés auraient pu être inégaux, la démonstration n’en serait pas moins valable. Telle est la raison qui me fait conclure que, ce que j’ai démontré d’un triangle particulier, rectangle et isocèle, est vrai de tout triangle obliquangle ou scalène ; et non pas parce que je l’aurais démontré de l’idée abstraite du triangle »[4].

Loin de corroborer la doctrine des idées générales abstraites, la démonstration mathématique fournit en quelque sorte un contre-exemple, car elle révèle que les idées sont soit abstraites, soit générales, sans pouvoir être l’un et l’autre. C’est bien par abstraction que je ne tiens pas compte, dans tel triangle, de l’angle droit ou de l’égalité des côtés, mais cette abstraction ne constitue aucune généralité : c’est encore et toujours du triangle particulier que j’ai l’idée. En revanche, cette abstraction permet à ma démonstration de s’appliquer à la généralité concrète des autres triangles : le triangle dont j’ai l’idée est ainsi constitué en signe pour tous les autres. Le défenseur de l’idée générale abstraite attribue au signe les propriétés de ce qui peut être désigné par le signe. C’est la même erreur que celle que nous commettons sur le mot « couleur » : un mot particulier, qui sert de signe pour toutes les couleurs, mais qui devient une idole si nous lui attribuons la généralité de ce qu’il peut désigner.

En mathématiques, cette confusion est lourde de conséquences. Elle rend d’abord possible l’apparition d’un symbolisme dangereux, d’autant plus facile qu’il est vide, dès lors que le signe paraît être, par lui-même, une garantie de la présence de ce qu’il peut désigner. Elle engendre surtout une grave méprise sur l’objet véritable de la géométrie. Écoutons de nouveau Berkeley : « On doit parler d’une ligne donnée du diagramme, qui n’est que d’un pouce de longueur, comme si elle contenait dix mille parties, puisqu’on la considère, non pas en elle-même, mais comme étant universelle ; et elle est universelle uniquement dans sa signification, en ce qu’elle représente d’innombrables lignes plus grandes qu’elle, et dans lesquelles on pourrait distinguer dix mille parties, ou plus, bien qu’il ne puisse pas y en avoir. De telle sorte que les propriétés signifiées sont, par un procédé très habituel, transférées au signe ; et de là, et par erreur, l’on pense qu’elles appartiennent à celui-ci, de par sa nature propre »[5]. On le voit : si la substance matérielle est l’idole de la philosophie, si l’espace, le temps et le mouvement absolus sont les idoles de la physique, la divisibilité infinie du fini est l’idole des mathématiques. Et le paragraphe suivant indique déjà dans quel sens se feront les critiques portant sur l’analyse moderne : « Du fait qu’il n’existe pas un nombre de parties si grand qu’il ne soit possible qu’il y ait une ligne qui en contienne plus, on dit que la ligne d’un pouce contient plus de parties que tout nombre assignable. Ce qui est vrai, non pas d’un pouce pris absolument, mais seulement des choses qu’il signifie. Mais les hommes, ne gardant pas dans leurs pensées une telle distinction, glissent vers la croyance selon laquelle une petite ligne particulière, inscrite sur une feuille de papier, contient en elle des parties innombrables. Il n’existe rien qui corresponde à la dix-millième partie d’un pouce ; il en existe, au contraire, d’un mile, ou du diamètre de la terre, que l’on peut signifier par ce pouce »[6]. Là est, finalement, tout le secret des grandeurs dites « inassignables » ou « incomparables ». Berkeley écrivait ceci en 1710, vingt-quatre ans avant L’Analyste. Et des idées voisines avaient déjà, été développées, sans doute avant 1709, dans un petit texte intitulé Des Infinis.

Une fois constituée, l’idolâtrie de la division infinie se maintient d’autant plus facilement que le mathématicien, professionnellement pourrait-on dire, ne regarde jamais en arrière : son activité exclusivement déductive, sans cesse confortée par ses résultats, ne l’incite pas à l’examen des notions de départ. Un tel examen est d’ailleurs tout à fait indépendant de la compétence déductive. Berkeley déclare vouloir « encourager ceux qui ne sont pas très avancés dans ces études à faire un usage intrépide de leur jugement, sans respect aveugle ou mesquin pour les meilleurs mathématiciens, qui ne sont pas plus qualifiés qu’eux pour être juges de la simple appréhension ou de l’évidence de ce qui est donné dans les premiers éléments de la méthode. L’usage ou l’exercice fréquent et poussé habitue seulement davantage les hommes aux symboles et aux règles, sans rendre plus claires les notions antérieures, ni plus parfaites les preuves antérieures. Tout lecteur de bon sens, qui n’entend utiliser que ses facultés, connaît aussi bien que le plus profond des analystes l’idée qu’il se fait ou peut se faire de la vitesse sans mouvement, ou du mouvement sans étendue, de la grandeur qui n’est ni finie ni infinie, ou d’une quantité sans grandeur et pourtant divisible, d’une figure sans espace, d’une proportion entre des riens, ou d’un produit réel obtenu en multipliant rien par quelque chose »[7]. L’analyste moderne est un croyant, un newtonien ; à moins d’être Newton lui-même, il n’invoquera pour se défendre que des arguments d’autorité ou des arguments pragmatiques. Il ne faut pas être mathématicien pour être libre-penseur en mathématiques.

La structure argumentative de L’Analyste n’est donc pas seulement de circonstance : elle représente avec exactitude l’application aux mathématiques du projet philosophique de Berkeley. La comparaison, étonnante de prime abord, entre les mystères de la foi et les mystères de l’analyse, se justifie pleinement. La raison humaine doit s’incliner devant le mystère d’un langage arbitraire qu’il nous suffit d’apprendre. Certains se rendent sourds à cette parole en instituant un autre langage, mystérieux lui aussi, par opacité. Pour détruire cette opacité, le philosophe utilise les armes de la libre-pensée. Contre les mathématiciens incrédules, il se fait incrédule comme un robuste Irlandais. « Les mathématiciens, écrit Berkeley, pensent qu’il y a des lignes insensibles, ils en dissertent : elles se coupent en un point, à tous les angles, elles sont divisibles à l’infini. Nous autres, Irlandais, nous ne pouvons concevoir de telles lignes »[8]. « Les mathématiciens, écrit-il encore, parlent de ce qu’ils appellent un point ; celui-ci, disent-ils, n’est pas tout à fait rien, ni, non plus, vraiment quelque chose. Or nous autres, Irlandais, nous sommes portés à croire que ce quelque chose et ce rien sont vraiment voisins »[9].

*

**

Il nous faut maintenant caractériser la situation de « l’analyse moderne », telle que Berkeley pouvait la percevoir : on se contentera donc de mettre en relief les aspects que Berkeley lui-même fut conduit à privilégier.

Les contemporains (Berkeley y compris) de ce que nous appelons l’invention du Calcul infinitésimal ont vraiment éprouvé une impression de rupture historique, impression reposant sur la conjonction de deux idées. D’abord l’idée selon laquelle, alors que les méthodes d’analyse antérieures étaient relatives à deux problèmes différents, le calcul de Newton (calcul des fluxions) et celui de Leibniz (calcul différentiel) unifiaient les deux problèmes : le problème des tangentes (déterminer la tangente à une courbe en un point donné) et le problème des aires (déterminer l’aire intérieure à un contour fermé donné). Auparavant, certaines méthodes étaient spécifiquement tournées vers le premier problème (Fermat), d’autres spécifiquement vers le second (Cavalieri). Chez Newton comme chez Leibniz, ces deux problèmes furent reliés, le second étant l’inverse du premier, et le calcul unifié fut centré sur des entités à double usage, selon qu’on envisage la différenciation ou l’intégration : la « fluxion » chez Newton, la « différence » chez Leibniz.

C’est ici qu’intervient la seconde idée. Fluxion et différence ne furent pas mises par les contemporains sur le même plan que les indivisibles de Cavalieri, par exemple. On prétendit que ces nouvelles entités n’étaient pas des « méthodes » au sens ancien de fictions aidant le calcul et permettant d’atteindre le résultat, mais qu’elles correspondaient à la nature des choses. Lorsque Fermat, dans sa méthode de 1640 pour rechercher les maxima et minima, supposait un terme e qu’il supprimait ensuite, lorsqu’il « adégalait » des produite inégaux, ni le terme fictif, ni l’« adégalité », ne lui posait de problème ontologique. Il en alla tout autrement pour Leibniz lorsqu’il proposa en 1684 une Nouvelle méthode des maxima et minima : des procédures assez voisines en apparence (supposition puis suppression de dx, position de l’égalité comme limite de l’inégalité) exigèrent une justification philosophique. Cette recherche d’un statut ontologique conduisit Leibniz, ainsi que Newton, à hésiter entre deux types de catégories, deux types de langages. À l’un de ces langages appartenait la catégorie de l’ « évanouissement », de la « quantité évanouissante », à l’autre la catégorie de l’ « incomparable ».

Le mot « évanouissant » revient assez souvent sous la plume de Newton comme sous celle de Leibniz. Voici comment ce dernier exprimait, dans son étude sur le « triangle caractéristique » de Pascal, le statut des infiniment petits, cette rémanence en eux des mêmes rapports que ceux que présentent des quantités finies, auxquelles les rattache une raison de similitude : « Non pas certes comme, simplement et dans l’absolu, des riens, mais des riens relatifs, c’est-à-dire comme s’évanouissant certes dans le rien, mais non sans retenir le caractère de ce qui s’évanouit ». Cette idée de rémanence des rapports conduisait vers la notion de limite, autour de laquelle s’organisera plus tard l’interprétation finitiste du calcul. Mais dans leur effort pour donner un statut ontologique à cette idée de limite, Newton et Leibniz la pensaient encore comme une quantité, de même qu’ils confondaient, sur le plan du symbolisme, les symboles exprimant la limité atteinte avec ceux qui apparaissent dans l’obtention de cette limite.

Autant la catégorie de « quantité évanouissante » était géométrique et marquée par l’esprit de continuité, autant la catégorie de « quantité incomparable » était arithmétique et marquée par l’esprit de discrétion. D’un point de vue arithmétique, l’infinitésimale n’est plus un devenir, mais un être, une grandeur infiniment petite, toujours fixe et déterminée. C’est bien une quantité, mais une quantité que l’on peut « hardiment négliger », disait Leibniz, relativement à des quantités d’ordre supérieur : ainsi dx doit-il être négligé par rapport à x pour que l’on puisse écrire x + dx = x. Leibniz, qui parlait assez souvent le langage de l’évanouissement, parlait plus souvent encore celui des incomparables, parfois même avec une certaine platitude, par exemple quand il invoquait le statut négligeable du grain de sable relativement au diamètre de la terre, prenant ainsi le risque de réduire l’Analyse à n’être plus qu’un calcul d’approximation. Dans le langage des évanouissants, l’égalité était la limite de l’inégalité, tandis que le langage des incomparables posait abruptement l’inégalité comme une égalité.  

Voyons maintenant plus précisément en quoi consistaient les deux calculs rivaux, celui de Newton et celui de Leibniz.

Du calcul newtonien, on retient généralement qu’il était centré sur la notion de « fluxion ». Il existe deux exposés de Newton sur la théorie des fluxions. L’un, le Tractatus de quadratura curvarum, un des deux traités mathématiques publiés en 1704 à la suite de l’Optique, mais rédigé en 1693 ; l’autre, la Méthode des fluxions et des suites infinies, publié en 1736 par John Colson, traduit en 1740 par Buffon, et qui pourrait avoir été rédigé vers 1671. L’Introduction au Traité sur la quadrature des courbes, définissait ainsi la fluxion : « Je ne considère pas les grandeurs mathématiques comme formées de parties, si petites soient-elles, mais comme décrites d’un mouvement continu. Les lignes sont décrites et engendrées, non par la juxtaposition de leurs parties, mais par le mouvement continu de points, les surfaces par le mouvement des lignes, les solides par le mouvement des surfaces, les angles par la rotation des côtés, le temps par un flux continu … Considérant donc que les grandeurs qui croissent dans des temps égaux sont plus grandes ou plus petites selon qu’elles croissent avec une vitesse plus grande ou plus petite, je cherchais une méthode pour déterminer les grandeurs d’après les vitesses des mouvements ou accroissements qui les engendrent. En nommant fluxions les vitesses de ces mouvements ou accroissements, tandis que les grandeurs engendrées s’appelleraient fluentes, je suis tombé vers les années 1665-1666 sur la méthode des fluxions, dont je ferai usage dans la quadrature des courbes ». La fluxion est donc la vitesse en un point, la variation instantanée d’un rapport de grandeurs. Si le temps est posé comme variable indépendante et la distance parcourue comme une fonction de cette variable, la fluxion est la limite du quotient de l’accroissement de la fonction par l’accroissement de la variable indépendante, lorsque ce dernier tend vers zéro : en termes modernes, la dérivée de la fonction en un point. Cette notion pouvait assurer le double rôle requis par l’esprit de l’analyse moderne : déterminer la vitesse à un temps t donné quand la longueur du segment parcouru est donnée, ou la distance parcourue à un temps t quand c’est la vitesse qui est donnée.

Newton symbolisait la fluxion par un point situé au-dessus de la lettre. Il appelait « incréments » et « décréments » les accroissements et diminutions de la fonction comme de la variable indépendante. Lorsque l’incrément était infiniment petit, Newton l’appelait un « moment », et le symbolisait par la lettre o.

Le vocabulaire cinématique adopté par Newton (temps, mouvement, vitesse) avait-il la valeur d’une simple analogie, ou d’une véritable thèse sur la réalité des êtres mathématiques ? La prétention de proposer une méthode fondée sur la nature des choses ferait pencher plutôt pour la seconde hypothèse. Mais on se demande alors pourquoi, dans les Principia, là où le rapport entre géométrie et cinématique s’imposait, Newton abandonna presque entièrement le vocabulaire des fluxions, et proposa une méthode, sinon différente, du moins formulée différemment. C’est la « méthode des premières et dernières raisons des quantités naissantes et évanouissantes », méthode dont il nous est dit, au début de la Section 1 du Livre I des Principia, qu’elle est « employée dans tout cet ouvrage ». Après avoir exposé les lois du mouvement, et pour démontrer les théorèmes relatifs aux forces centrifuges et centripètes (essentiellement les lois de Kepler), Newton pose dix lemmes suivis d’un scolie. Le Lemme 1, par exemple, énonce : « Les quantités et les raisons des quantités qui tendent continuellement à devenir égales pendant un temps fini, et qui avant la fin de ce temps approchent tellement de l’égalité que leur différence est plus petite qu’aucune différence donnée, deviennent à la fin égales ». Voilà ce qu’il faut entendre par : « une dernière raison d’égalité ». Le Scolie qui termine cette série de lemmes représente, de la part de Newton, la clarification la plus élevée du concept de limite, surtout dans cette phrase : « Les dernières raisons avec lesquelles (les) quantités s’évanouissent ne sont pas les véritables raisons des dernières quantités, mais les limites dont s’approchent toujours les raisons des quantités qui décroissent sans limite ; et de ces limites, elles peuvent toujours approcher à une distance moindre que n’importe quelle différence donnée ; mais jamais elles ne les peuvent dépasser ni atteindre, sinon à l’infini »[10]. Par « dernière raison de quantités évanouissantes », il faut donc entendre la limite d’un rapport. Mais comme la fluxion est également la limite d’un rapport, on peut penser que les deux méthodes étaient consistantes entre elles, et même que la méthode des fluxions n’était qu’une présentation particulière de la méthode des premières et dernières raisons. Dans ce cas, le langage cinématique de la méthode des fluxions n’était pas indispensable.

Venons-en à Leibniz et à son calcul différentiel. La notion centrale de ce calcul, la « différence », désignait une quantité infiniment petite : le langage des incomparables était donc primordial ici, comme celui des évanouissants chez Newton. Leibniz faisait parfaitement la distinction entre la différence finie que nous notons Δy et la différentielle ou différence infiniment petite dy, mais il n’inscrivait pas cette distinction dans son symbolisme. Dans l’écriture leibnizienne, la différentielle dy était l’évanouissement de la différence dy, au sens « rémanent » déjà indiqué ; se nommant également dy, elle était posée comme une quantité déterminée, mais incomparable. D’où une confusion entre ce que nous écrivons  ∆y ⁄∆x et ce que nous écrivons dy ⁄dx , le premier quotient étant une division alors qu’il n’est pas correct d’interpréter dy ⁄dx comme « dy divisé par dx ». Cette confusion sera commise également par Berkeley dans sa critique, mais il est certain qu’elle conduisait aux problèmes soulevés par Berkeley.

Les exposés de Leibniz étaient inventifs, mais assez brouillons. La mise en forme académique du calcul différentiel se fit par l’intermédiaire des frères Bernoulli, mais surtout du marquis Guillaume de l’Hospital dans son Analyse des infiniment petits pour l’intelligence des courbes (1696). Ce que Berkeley connaissait du calcul différentiel provient de ce traité, et non des écrits de Leibniz lui-même. Or le traité du marquis de l’Hospital renforçait encore la prédominance de la doctrine des incomparables. Voici par exemple sa Première Demande ou Supposition : « On demande qu’on puisse prendre indifféremment l’une pour l’autre deux quantités qui ne diffèrent entre elles que d’une quantité infiniment petite, ou (ce qui est la même chose) qu’une quantité qui n’est augmentée ou diminuée que d’une autre quantité infiniment moindre qu’elle puisse être considérée comme demeurant la même ». On voit nettement la différence d’esprit avec le Lemme 1 des Principia, où Newton exprimait une idée assez semblable dans le langage des évanouissants. Nous verrons jusqu’où la critique de Berkeley a pu être déterminée par cette situation : devoir se référer, du côté newtonien, à des textes marqués par l’esprit d’invention, du côté leibnizien à un exposé académique et pragmatique.     

Ces traits caractéristiques de « l’analyse moderne » étant rappelés, il est temps d’énoncer les thèses de Berkeley, thèses que nous développerons dans la dernière partie de cette conférence.

• Première thèse : Il faut faire une distinction importante entre le calcul des fluxions et le calcul différentiel. Cette distinction correspond à celle entre les idées générales abstraites « vides » et les idées générales abstraites « contradictoires ».
• Deuxième thèse : Le calcul différentiel n’est opératoire que grâce à ses principes contradictoires.
• Troisième thèse : Le calcul des fluxions n’est opératoire qu’à condition de trahir ses propres principes.
• Quatrième thèse : La réussite de l’analyse est due au fait que les erreurs qu’on y commet sont de sens contraire et se compensent exactement.

*

**

Première thèse. Deux raisons expliquent le sentiment, assez répandu à l’époque de Berkeley, selon lequel le calcul des fluxions et le calcul différentiel étaient, au fond, la même chose. D’abord, la terrible querelle de priorité qui eut lieu entre newtoniens et leibniziens : les deux camps s’accusant réciproquement de plagiat, la situation n’était guère propice à la reconnaissance de l’originalité de chaque méthode. En outre, la traduction opératoire d’un calcul dans l’autre se faisait facilement, donnant l’impression que la seule différence était une différence de notation. Il faut reconnaitre à Berkeley une certaine perspicacité pour avoir perçu des différences plus essentielles ; il ne les perçoit toutefois qu’à la faveur d’une projection, parfois arbitraire, de sa grille d’interprétation philosophique.

Les premiers paragraphes de L’Analyste laissent pourtant penser que c’est une seule et même critique que Berkeley adresse aux deux méthodes, critique consistant à soutenir que nous n’avons aucune idée effective, ni d’une fluxion, ni d’une différentielle. Cette critique est exprimée à la manière favorite de Berkeley, c’est-à-dire ad hominem. Êtes-vous réellement capable de vous représenter une quantité infiniment moindre que toute quantité sensible ou imaginable ? Et pouvez-vous sérieusement concevoir qu’une partie de cette quantité infiniment petite soit encore infiniment moindre qu’elle ? Pour ma part je ne le puis, déclare-t-il, estimant qu’une telle argumentation est parfaitement fondée, car « c’est une conclusion naturelle que d’admettre des facultés semblables chez tous les hommes. C’est sur cette hypothèse qu’ils se fondent pour discuter et se convaincre les uns les autres. Ce qui, par conséquent, apparaîtra manifestement impossible et inadmissible à l’un, on peut supposer qu’il le sera également pour l’autre »[11]. Ce genre de critique montre que nous sommes bien dans le domaine des idées que l’on croit posséder sans les posséder, autrement dit les idées générales abstraites. À vrai dire, l’infiniment petit, sous forme de fluxion ou de différentielle, est au point de croisement de toutes les idées générales abstraites : c’est l’apothéose du matérialisme, de notre surdité à la parole divine.

N’ayant aucune idée d’une fluxion ou d’une différentielle, nous en avons encore moins, s’il est possible, d’une fluxion seconde ou troisième, d’une différentielle de second ou de troisième degré. On retrouve ici la critique du symbolisme, de la tentation qu’a le mathématicien de conférer au signe une fausse autonomie en lui attribuant les propriétés de ce qu’il devrait signifier. « Rien n’est plus facile que d’inventer des expressions ou des notations pour les fluxions et les infinitésimaux des premier, second, troisième, quatrième ordres et des ordres suivants en procédant de la même façon réglée, sans fin ni limite … En effet, ces expressions sont claires et distinctes, et l’esprit n’éprouve aucune difficulté à concevoir qu’on puisse en prolonger la suite au-delà de toute limite assignable. Mais si nous écartons le voile et regardons derrière, si, mettant de côté les expressions, nous nous appliquons à considérer attentivement les objets eux-mêmes qui sont censés être exprimés ou indiqués par leur moyen, nous trouverons beaucoup de vide, d’obscurité et de confusion ; bien plus, si je ne me trompe pas, des impossibilité et des contradictions franches »[12].  

Nous voici introduits, par la dernière phrase de ce passage, dans la dualité du vide (Newton) et du contradictoire (Leibniz).

S’en tenant strictement à la théorie des fluxions, Berkeley prend au sens le plus fort le langage cinématique de Newton. La variable indépendante temps, c’est vraiment pour lui le temps physique, illusoirement posé comme absolu. La fluxion est alors vraiment une vitesse instantanée, une vitesse dans un néant de temps, ce qui conduit à toutes sortes d’absurdités, d’autant plus que la fluxion seconde est une vitesse de vitesse, et ainsi de suite. La méthode des fluxions apparaît ainsi comme une métaphysique, une ontologie de la substance matérielle. Et comme Newton est génial, il fait ce qu’on peut faire de mieux dans ce domaine. S’il échoue, c’est que le statut entier de la géométrie est à revoir. « En vérité, écrit Berkeley, il y a des raisons de craindre que toutes les tentatives pour fonder la géométrie absconse et subtile sur une base légitime, et éviter la doctrine des vitesses, des moments, etc., se révéleront vaines jusqu’au jour où l’objet et le but de la géométrie seront mieux compris qu’ils ne semblent l’avoir été jusqu’ici. Le grand auteur de la méthode des fluxions sentit cette difficulté, et c’est pourquoi il s’abandonna à ces abstractions subtiles et cette métaphysique géométrique sans lesquelles, il le voyait bien, on ne pourrait rien faire à partir des principes reçus »[13].

Que l’ontologie newtonienne soit vouée à l’échec, c’est ce que prouvent les trois interdictions solennellement formulées par le « grand auteur », et que Berkeley ne manque pas une occasion de rappeler :

1. « Gardez-vous d’entendre par ces expressions des quantités d’une grandeur déterminée, mais toujours des quantités qui diminuent à l’infini » (Principia, I, Section 1, Scolie du Lemme 11).

2. « J’ai voulu montrer que dans la méthode des fluxions il n’est pas nécessaire d’introduire en géométrie des figures infiniment petites » (Introduction au Traité des quadratures).

3. « En mathématiques, les plus petites erreurs ne sont pas négligeables » (Introduction au Traité des quadratures).

Si la fluxion n’est ni une quantité finie, ni un infiniment petit, ni une quantité négligeable, le « grand homme », rigoureux jusqu’au bout, n’a rien trouvé : il a exploré génialement le vide.

Certes, on pourrait objecter que si la fluxion n’est ni une quantité finie, ni un infiniment petit, ni une quantité négligeable, c’est qu’elle est une limite. Mais, et c’est là l’échec de Berkeley, il ne comprend pas la notion de limite, et l’idée d’un passage à la limite.

Pour se faire une idée de la distance entre le vide des principes newtoniens et la contradiction des principes leibniziens, il suffit de se souvenir de la Première Demande du marquis de l’Hospital. Les quantités invoquées sont déterminées et fixes comme des quantités finies, mais ce sont également des quantités infiniment petites, si bien qu’on s’arroge le droit de les considérer comme des êtres quand on s’en sert, et comme des néants quand on trouve bon de les négliger. Par opposition à l’exigence ontologique inassouvie de Newton, les mathématiciens continentaux sont sans scrupule : « Leibniz et ses disciples, dans leur calcul différentiel, ne se font aucun scrupule de supposer d’abord et de rejeter ensuite des quantités infiniment petites »[14]. Toutes les interdictions newtoniennes sont transmuées sur le continent en autorisations. Alors que les fluxions ne sont ni quelque chose ni rien, les différences sont à la fois quelque chose et rien : à une idée vide on a substitué une idée contradictoire, selon la loi des idées générales abstraites.

Deuxième thèse. Cette absence de scrupule des analystes du continent leur permet d’exercer leur métier de mathématicien sans trouble de conscience.

Pour illustrer ce point par un exemple facile, considérons la façon dont on définit la dérivée d’une fonction. Dans un premier temps, on donne des accroissements aux variables, dans un deuxième temps on calcule l’accroissement k de la fonction, dans un troisième temps on divise l’accroissement de la fonction par l’accroissement h de la variable indépendante ; enfin, dans le quatrième temps, on calcule la limite du taux d’accroissement ainsi obtenu lorsque l’accroissement de la variable tend vers zéro. Ainsi, lors de la quatrième étape, on considère comme nul ce qui avait été tenu pour une quantité dans les étapes précédentes. Cette procédure est justifiée dans la mesure où le raisonnement renvoie à un passage à la limite ; mais pour Berkeley, qui refuse viscéralement une telle idée, ce changement est uniquement le fait du mathématicien, qui décide, au moment où cela l’arrange, de changer d’hypothèse : dans les trois premières étapes, il a posé h différent de zéro, et dans la quatrième il pose h = 0. C’est ce que Berkeley appelle le « sophisme sur l’hypothèse ».

Il y a bien sophisme, puisqu’on conserve après la substitution un résultat qui n’avait pu être obtenu que grâce à l’ancienne hypothèse. On n’aurait évidemment rien obtenu à poser h = 0 dans la première, la deuxième ou la troisième étape. Il faut tirer tout le profit de la supposition "h différent de zéro" pour pouvoir bénéficier, au bon moment, de la nouvelle supposition.

Le philosophe de la croyance, de la foi, qu’est Berkeley, laisse apparaître ici sa conception de la rigueur déductive. Ce n’est pas celle de Descartes, Spinoza ou Leibniz. Elle est plutôt à rapprocher d’une idée fondamentale de Hobbes : les signes nous engagent. La rigueur déductive repose sur un principe de fidélité, et c’est ce principe que les analystes doivent transgresser pour que leur méthode soit opératoire.

Comprenons bien Berkeley sur ce point. Ce qu’il conteste, ce n’est pas tant le changement d’hypothèse en cours de raisonnement que le maintien des résultats de l’ancienne hypothèse au sein de la nouvelle. On pourrait imaginer deux raisonnements successifs, fondés sur des hypothèses contraires, dans un but d’approximation. Si les analystes intègrent le changement d’hypothèse dans le cadre fictif d’un seul raisonnement, c’est qu’ils s’y croient autorisés par la nature spécifique de leur objet. C’est donc toujours d’ontologie qu’il est question.

Troisième thèse. Revenons à Newton. Comme la méthode des fluxions n’est pas – selon Berkeley – directement opératoire, elle ne peut valoir comme méthode qu’à condition de trahir l’esprit même de la théorie des fluxions, à savoir cette recherche ontologique exigeante dont nous avons parlé. Cette trahison peut consister, (1) soit à proposer d’autres méthodes, moins exigeantes, (2) soit à inventer des techniques opératoires astucieuses, mais seulement astucieuses, (3) soit à réintroduire, sans l’avouer, les infiniment petits et les modes de calcul des analystes continentaux.

(1) Berkeley affirme que la « méthode des premières et dernières raisons », loin d’être le véritable noyau mathématique dont la théorie des fluxions ne serait qu’une interprétation, n’est même pas consistante avec elle. Il s’en prend particulièrement au Lemme 1 des Principia, dans lequel Newton démontrait que deux quantités doivent être égales quand elles n’ont entre elles aucune différence assignable. Ce lemme, prétend Berkeley, est incompatible avec la doctrine des fluxions, qu’il renverse et détruit complètement. « En effet, il s’ensuivra que tous les moments homogènes sont égaux, et qu’en conséquence les vitesses, les mouvements ou les fluxions qui leur sont proportionnels sont égaux de la même façon. Il n’y a donc qu’une proportion d’égalité d’un bout à l’autre, ce qui renverse d’un seul coup tout le système ». Selon Berkeley, Newton, dans cette nouvelle méthode, non seulement s’en tient au langage des incomparables, mais il en revient même à la méthode d’exhaustion des anciens. Et il conclut ainsi sa critique : « Qui ne voit qu’une démonstration ad absurdum more veterum, partant de l’hypothèse que toute différence doit être une quantité donnée, ne peut pas être admise ou être cohérente avec une méthode où l’on suppose que des quantités moindres que toute quantité donnée existent réellement et peuvent être divisées ? »[15]

(2) Lorsqu’il veut maintenir la rigueur de ses principes ontologiques, Newton doit recourir à des astuces opératoires qui masquent des fautes de calcul élémentaires. C’est le cas, toujours dans les Principia, au Lemme 2 du Livre II. Newton y démontre un théorème fondamental établissant le mécanisme opératoire de ce que nous appelons le calcul des dérivées. Voici son raisonnement sur le cas le plus simple, lorsqu’il s’agit de calculer le moment du produit A.B : « Un rectangle quelconque AB augmenté par un mouvement continu, lorsqu’on ôte des côtés A et B la moitié des moments a et  b, devient (A - ½ a) (B - ½ b), soit AB - ½ a B - ½ b A + ¼ ab.  Et lorsque les côtés A et B sont augmentés des autres moitiés des moments, il devient (A + ½ a) (B + ½ b), soit AB + ½ a B + ½ bA + ¼ ab. Ôtant de ce rectangle le premier rectangle, on aura pour reste aB + bA, donc l’incrément aB + bA du rectangle sera produit par les incréments entiers a et b des côtés ». Le résultat est donc obtenu par un encadrement, en retranchant l’un de l’autre les produits obtenus, d’une part en ôtant, d’autre part en ajoutant à chacun des côtés son demi incrément. Cette procédure, que rien ne justifie particulièrement sinon que ½ a – (- ½ a) = a, permet de se débarrasser des termes du deuxième ordre sans les négliger, puisqu’ils disparaissent d’eux-mêmes dans le calcul, c’est-à-dire, en termes modernes, sans avoir à s’occuper de limites.

Mais Berkeley considère que ce sont les incréments en totalité, a et b, qu’il faut prendre en compte. On a alors (A + a) (B + b) = AB + aB + bA + ab. En ôtant le rectangle initial, reste en réalité aB + bA + ab. Et il n’est pas tendre envers ce qu’il considère comme une astuce pure et simple : « Qu’un tel raisonnement soit pris pour une démonstration, seule l’obscurité du sujet a pu inciter ou pousser le grand auteur de la méthode des fluxions à l’imposer à ses disciples, et seul un respect tacite envers l’autorité a pu les conduire à l’admettre »[16].

(3) D’après Berkeley, d’ailleurs, Newton n’a pas dû vraiment se contenter de ce procédé, puisque dans l’Introduction à la quadrature des courbes il en propose un autre, toujours pour trouver la fluxion d’un produit. Mais ce nouveau procédé nous ramène au sophisme sur l’hypothèse. À son corps défendant, Newton finit donc par pratiquer l’analyse continentale : « Il est curieux d’observer combien ce grand génie déploie de subtilité et d’adresse pour lutter contre une difficulté insurmontable ; par quels détours il s’efforce d’échapper à la doctrine des infinitésimaux ; et autant, qu’il le veuille ou non, cette doctrine s’impose à lui, autant d’autres l’admettent et l’adoptent dans la moindre répugnance »[17]. Du point de vue de Berkeley, il y a là quelque chose de dramatique : « En considérant la diversité des procédés et des artifices utilisés par l’illustre auteur de la méthode fluxionnaire, sous quels points de vue différents il présente ses fluxions, et le nombre de manières différentes qu’il emploie pour démontrer la même chose, on inclinerait à penser qu’il doutait lui-même de la justesse de ses propres démonstrations, et qu’il n’était pas assez satisfait d’aucun concept pour s’y tenir fermement »[18]. Cette insatisfaction, ajoute-t-il, a complètement échappé à ses disciples, prisonniers de leur métier de mathématiciens.

Quatrième thèse. Mais comment ce qui n’est pas une science, ni par l’objet ni par la méthode, peut-il atteindre la vérité ? C’est dans la réponse à cette question, à savoir dans la théorie de la compensation des erreurs, que Berkeley atteint le sommet de sa critique.

L’exemple choisi[19] porte sur la détermination de la sous-tangente d’une parabole, problème dont la solution géométrique était connue depuis longtemps, précisément depuis les Coniques d’Apollonius, dont la Proposition 33 établit que le sommet d’une parabole est le milieu de toutes ses sous-tangentes. En d’autres termes, soit une courbe ABN, et la tangente TB à cette courbe (tangente au point B), si on nomme x l’abscisse AP du point B, alors la sous-tangente TP = 2x. Et tel est bien le résultat obtenu, mais cette fois par la méthode des différences infinitésimales, dans la Proposition 1 de la 2^e section de l’Analyse des infiniment petits.

L’analyste moderne, commente Berkeley, passe par deux étapes préparatoires avant d’aboutir à cette égalité entre TP et 2x. La première étape le conduit à poser que TP = ydx ⁄ dy , x étant, on l’a vu, l’abscisse du point de tangence, y son ordonnée, dx l’accroissement infinitésimal ou « différence » de x, dy celle de y. La seconde étape permet à l’analyste de poser que dy = pdx ⁄ 2y, p étant le paramètre de la parabole, et d’en déduire que dy = ydx ⁄ 2x . Il ne lui reste plus alors qu’à combiner ces deux résultats, ce qui donne TP = ydx  ⁄ ydx / 2x , d’où TP = 2x. Ainsi est atteinte avec exactitude, déclare l’auteur de l’Analyse des infiniment petits, la « valeur de la sous-tangente TP en termes entièrement connus et délivrés des différences ».

Cette prétendue « délivrance » n’est qu’un faux-semblant, conteste Berkeley. Elle vient de ce que l’analyste commet successivement deux erreurs inverses, une erreur géométrique dans la première étape, une erreur algébrique dans la seconde, et que ces deux erreurs se compensent exactement. L’analyste commet d’abord une erreur géométrique en s’accordant la licence, conformément à la deuxième Demande ou Supposition de l’Analyse des infiniment petits, de considérer une ligne courbe comme « l’assemblage d’une infinité de lignes droites, chacune infiniment petite ». Il se permet alors de confondre l’incrément de la courbe avec sa tangente, d’en faire l’hypoténuse d’un triangle dont dx et dy sont les deux autres côtés, et d’obtenir, en appliquant les théorèmes sur les triangles semblables, son premier résultat : TP = ydx ⁄ dy . Mais en toute rigueur, proteste Berkeley, la courbe n’est jamais une droite, son incrément ne se confond jamais avec sa tangente, et le côté du triangle est toujours supérieur à dy d’une certaine quantité z. Le véritable résultat serait donc TP = ydx  ⁄ dy + z.

Dans la seconde étape de son raisonnement, l’analyste commet une nouvelle erreur, algébrique cette fois, en se donnant le moyen, conformément à la Règle IV de l’Analyse des infiniment petits, de ne pas élever au carré la différence dy quand il calcule (y +dy)². Partant de l’équation de la parabole y² = px, et considérant que x devient x + dx, que y devient y + dy, il aboutit ainsi à la formule dy = pdx ⁄ 2y . Mais en toute rigueur, proteste Berkeley, le carré de la différence ne saurait être négligé dans le calcul, et le véritable résultat devrait être dy =  pdx ⁄ 2y - dy² ⁄ 2y.

L’analyste se trompe donc deux fois, d’abord en n’ajoutant pas à dy une certaine quantité z, ensuite en ne soustrayant pas de dy une autre quantité dy² ⁄ 2y . Or il se trouve, démontre Berkeley, que l’erreur pas défaut et l’erreur par excès se compensent exactement : z = dy² ⁄ 2y .

Berkeley généralise ensuite, établissant que cette thèse demeure vraie même lorsqu’il n’a été commis en apparence qu’une seule erreur, et que tel est bien, par conséquent, le secret de la réussite de l’analyse. Mais s’il en est ainsi, cette réussite n’a rien à voir avec l’infinitésimale, fluxion ou différentielle : même avec des grandeurs finies, aussi grandes qu’on voudra, la compensation exacte de deux erreurs donnerait un résultat vrai. Aussi bien cette théorie de la compensation des erreurs a-t-elle pour Berkeley valeur de critique de l’analyse et de ses prétentions, et non valeur de réforme de cette analyse, ce qui exclut tout rapprochement de fond avec certaines idées de Leibniz, reprises par d’Alembert et développées par Carnot.

Nous pouvons maintenant résumer la conception de Berkeley. La géométrie est une science pratique dont le but est la mesure des grandeurs assignables. L’autre conception de la géométrie en fait une métaphysique matérialiste. Newton, grâce à son génie, représente ce qu’on peut faire de mieux dans cette voie : la théorie des fluxions. L’obscurité de la théorie des fluxions lui interdit toutefois d’être opératoire, ce dont Newton a pris conscience, mais ce qui a complètement échappé à ses disciples. En revanche, l’analyse à la mode continentale est opératoire, mais elle ne l’est qu’en exploitant inconsciemment la compensation des erreurs : la preuve de cette inconscience est fournie par la croyance selon laquelle la méthode en question ne pourrait s’appliquer qu’aux grandeurs infinitésimales, alors qu’elle s’applique à n’importe quelle grandeur. Débarrassée de cette croyance, donc de toute référence à l’infini, l’analyse peut être acceptée comme une méthode d’approximation valable, au même titre que les autres.

*

**

Par une ironie certaine de l’histoire, la théorie de la compensation des erreurs devait, pendant un certain temps, alimenter ce que le XVIIIe siècle a nommé la « métaphysique du calcul infinitésimal », alors que Berkeley l’avait proposée pour expulser la métaphysique d’un calcul qui ne devait plus être infinitésimal. Et lorsque la réforme eut lieu, au XIXe siècle, elle ne se fit pas dans le sens souhaité par Berkeley : à partir de Cauchy s’est développée une théorie rigoureuse des limites, mettant fin aux polémiques concernant dx et permettant au mathématicien de pratiquer sans remords les opérations de l’analyse classique. Référée à l’histoire générale des mathématiques, la critique de Berkeley est un avatar insignifiant.

Philosophiquement, la solution de Berkeley est difficile à classer. Elle n’est pas vraiment « intuitionniste », contrairement à ce qu’affirme Yvon Belaval, qui l’assimile sans plus à celle de Descartes[20]. Certes, Descartes et Berkeley rejettent l’un et l’autre les méthodes d’analyse au nom du privilège de la vision actuelle, mais Descartes, en bon intuitionniste, fonde ce rejet sur la limitation aux grandeurs finies de la validité des règles opératoires, tandis que Berkeley conteste au contraire le statut exceptionnel que les analystes revendiquent pour leurs démonstrations. Ce n’est pas non plus une solution « empiriste » : loin de proposer aux mathématiciens un relâchement de leur rigueur, comme le prétend Léon Brunschvicg[21], Berkeley leur reproche justement de ne pas être à la hauteur de la rigueur dont ils se réclament. Peut-on parler de positivisme ? En s’appuyant essentiellement sur les textes relatifs à la physique, Karl Popper fait de Berkeley un précurseur des positivistes modernes[22]. Remarquons toutefois que s’il réduit le domaine du sens à ce qui est « sensible » ou « assignable », ce que Berkeley exclut n’est pas seulement, à ses yeux, dénué de sens, mais bel et bien faux, parce que contradictoire. Toutes ces catégories philosophiques semblent caduques, car elles ne correspondent qu’à des positions tactiques du philosophe Berkeley, au service d’un projet qui est celui de l’évêque Berkeley.

À la différence des grands rationalistes du XVIIe siècle, Berkeley n’a pas vu dans les mathématiques un modèle pour la pensée philosophique. Il n’en a peut-être été que plus sensible à la spécificité de l’objet et de la démarche des mathématiques. Sa conception « fidéiste » de la rigueur déductive marque bien son originalité. Si le conflit de la science et de la foi est un conflit entre deux croyances, on est en droit, pensait-il, de demander au mathématicien des comptes sur la façon dont il accorde sa confiance, et de s’étonner que « celui qui peut digérer une seconde ou une troisième fluxion, une seconde ou une troisième différence », puisse en même temps « faire le délicat sur une question quelconque de théologie »[23]