Il est né probablement à Fontenay dans le Vexin normand. Son père, maître des comptes à Rouen, l’envoya faire ses études au collège de Navarre, où il montra tôt l’esprit qui devait le distinguer. Il se lia avec les fils de La Rochefoucault, l’abbé et le prince de Marsillac, qui fut grand veneur de France et gouverneur du Berry. Le duc de Vendôme et son frère Philippe, grand prieur des chevaliers de Malte en France, se réunissaient à cette époque au Temple où ils formaient autour d’eux une société épicurienne. Chaulieu devint le compagnon de toujours et le conseiller des deux princes et c’est surtout à leur influence qu’il dut les avantages matériels de sa situation dans la suite. Il profita également de l’enseignement de La Chapelle. Il eut également une très grande affection pour le marquis de la Fare, si bien que la postérité les a fait, eux et leur œuvre poétique, presque inséparable.
Il s’attache alors au princes de Vendôme, et obtint, grâce à l’influence du grand prieur, un nombre estimable de bénéfices, celui de Saint Georges en l’île d’Oléron, qui pouvait valoir de 27 000 à 28 000 livres de rentes, ceux de Pouriers, de Renel, de Saint Etienne. Il fut également abbé d’Aumale, non pas dès 1680 comme on l’a cru, mais en juin 1682, remplaçant Geoffroy-Alexandre de Jarente. Il commença par en retirer des procès.
En 1765, il accompagna en Pologne le marquis de Béthune, envoyé extraordinaire vers Jean Sobieski, nouvellement marié à Mlle de la Grange d’Arquiem, belle-sœur du marquis de Béthune. L’amitié que lui portait l’envoyé de Louis XIV lui faisait espérer trouver, à l’occasion de ce voyage, une carrière profitable. Il ambitionnait une place de résident général ou de chargé d’affaire de Pologne à Paris. Les lettres qu’il écrit à sa belle-sœur, son frère Jacques était conseiller au Parlement de Rouen, nous renseignent sur les incidents du voyage et nous disent l’impression que lui firent les Polonais.
Il ne cultiva sérieusement son talent poétique qu’à partir de 56 ans. Il conçut une vive et délicate passion pour Mlle de Launay qui le consola de la perte de son ami La Fare dont les poésies sont inséparables des siennes. Voltaire et Rousseau furent quelque temps de leur école.
Sa première œuvre fut un rondeau satirique contre Benserade, à propos de la traduction en rondeaux des métamorphoses d’Ovide. Dans la suite, il chanta les voluptés, l’amour, les femmes. Plusieurs de ses vers ont été inspirés par Mme d’Aligre aussi célèbre par son esprit que par la bonté de son âme, d’autres par sa maîtresse, Mlle Rochois, de l’Opéra.
Dans ses dernières années, Chaulieu passa beaucoup de son temps à la petite cour de la duchesse du Maine à Sceaux où il devint l’ami de confiance et dévoué de Marguerite de Launay, avec qui il a entretenu une correspondance intéressante.
Il décéda le 27 juin 1720 et mourut dans des sentiments tout opposés à ceux qu’il avait affiché durant sa vie, s’attirant les sarcasmes de Voltaire.