C'est à l'âge de onze ans, à la mort de son père Charles Couperin, qu'il reçoit en héritage la charge d'organiste de l'Eglise Saint-Gervais, à Paris. Il n'occupera cependant le poste qu'en 1685, à l'âge de 17 ans, l'orgue étant tenu dans l'intérim par Michel Richard Delalande. Très tôt cependant, il pratique l'instrument, grâce aux leçons de son oncle François I, et surtout de Jacques Thomelin, organiste de Saint-Jacques la Boucherie, et ami de longue date de la famille Couperin. Il n'est donc pas surprenant que ce soit à l'orgue qu'il dédie ses premières compositions, deux messes, réunies en un livre d'orgue (1690), qui révèlent des dons exceptionnels pour un musicien de vingt ans, et vont très vite le rendre célèbre, grâce aux nombreuses copies manuscrites qu'il diffuse lui-même.

Nommé en 1693, sur concours, organiste de la Chapelle royale (poste qu'il conservera jusqu'en 1730), il accède ensuite à la charge de Maître de clavecin des Enfants de France - il enseigne notamment cet instrument au Dauphin (Duc de Bourgogne) - puis d'« ordinaire de la musique du Roi ».

Son premier livre de clavecin paraît en 1713, assez tardivement, après beaucoup d'autres publications du même type, notamment le 1er livre de Rameau (1706). Après les Leçons de Ténèbres (1714-1715), il compose pour le Roi vieillissant les célèbres Concerts royaux, suivis des Goûts réunis, selon les modèles de la suite française. Après l'Art de toucher le clavecin (1716), il publie trois nouveaux livres de clavecin (1717, 1722, 1730), et réédite ses sonates de jeunesse, italianisantes, en les complétant d'une suite française Les Nations.

Il meurt en 1733, après avoir abandonné ses charges d'organiste à Saint-Gervais (1723), puis à la Chapelle Royale (1730), probablement pour des raisons de santé. Musicien de génie, Couperin, curieusement ne fit pas une carrière exceptionnelle, beaucoup moins brillante qu'il n'y paraît en tout cas. Modestie ou maladie ? Il est bien difficile de le dire, vu le peu de choses que nous savons de sa vie intime...

Son génie a été de réussir la synthèse des goûts italien, hérité de Corelli, et français, caractérisé par un sens de l'humour et de la mesure, et une fraîcheur d'inspiration mélodique qui en font l'un des plus grands musiciens français de tous les temps.