Né le 6 février 1612 à Paris, il est le dernier fils d'Antoine Arnauld l’avocat dont la famille compte vingt enfants. A 7 ans et demi, il perd son père et son éducation est confiée à un maître. Il est diacre en 1640, et est ordonné prêtre en 1641.
Il suit des cours de philosophie, de droit et de théologie à la Faculté de Sorbonne à Paris. Il enseigne la philosophie à la Faculté de Sorbonne. Il découvre les Méditations du philosophe Descartes, auxquelles il communique des objections, auxquelles le philosophe répond ponctuellement.
Arnauld mène une vie simple sans rechercher la richesse ; il fait don aux religieuses de Port-Royal de presque toute sa fortune le 24 février 1643. L’activité littéraire et polémique d’Arnauld est étonnante. Ses Œuvres (non complètes) comptent 43 volumes de plus de 600 pages.
La rencontre avec l’abbé de Saint-Cyran oriente toute sa vie. En 1641 a été publié l'Augustinus de Jansénius. Saint-Cyran pousse Arnauld à en prendre la défense contre les adversaires de saint Augustin. En 1643 Arnauld publie De la Fréquente Communion, où il « prône un christianisme fondé sur une conversion loyale du cœur et l’absolu respect des sacrements ». L’ouvrage connaît un grand succès, et suscite débats et polémiques… En 1644 il publie avec son neveu Antoine Le Maistre l’Apologie de l'abbé de Saint Cyran, puis la Tradition de l’Église sur le sujet de la Pénitence et de la Communion, et deux Apologies de Jansénius, qui sont autant de défenses de la doctrine augustinienne.
Arnauld est contraint de vivre caché dans Paris ou retiré au monastère de Port-Royal-des-Champs où il dispense le catéchisme à certaines petites pensionnaires, et participe à la traduction d’ouvrages comme Les Confessions de Saint Augustin. Pendant la querelle des cinq propositions tirées de l'Augustinus de Jansénius, Arnauld prend des positions en faveur de la théologie augustinienne en publiant plusieurs écrits. Sa Seconde lettre à un duc et pair lui vaut d'être exclu de la Faculté de Sorbonne en 1656. Blaise Pascal prend part à ces débats et défend Arnauld dans ses Lettres Provinciales. Arnauld vit constamment caché. « Puisqu'ils n'ont persécuté en moi que la vérité, dit-il, soutenez-moi donc, Seigneur, afin que je combatte jusqu'à la mort pour la vérité ». La Paix de l’Église, période d’apaisement des persécutions, lui permet vers 1669 de tourner ses attaques contre les calvinistes.
Son œuvre ne se limite du reste pas à la théologie : il composera des ouvrages qui auront autant de retentissement que ses écrits polémiques. En 1662, Arnauld publie avec Nicole La logique ou l'art de penser, puis en 1667 les Nouveaux éléments de géométrie. Mais en 1679, la paix de l'Église est rompue : Arnauld décide de quitter la France et part en exil en Flandre, puis en Belgique où il retrouve un temps Pierre Nicole. Alors que ce dernier finit par revenir en France, Arnauld restera seize ans à l’étranger jusqu’au bout. Il meurt à Bruxelles inhumé à l'église Sainte Catherine. Son cœur embaumé est transporté en France à Port-Royal-des-Champs.
On attribue à Nicolas Manessier, ami d'Arnauld et de Blaise Pascal, cette esquisse de portrait : « l'esprit le plus fort et le plus éclairé de son siècle : il est un grand théologien, grand philosophe, grand mathématicien comme ses ouvrages sur toutes les sciences le montrent. On peut pas écrire avec plus de force, quoiqu'il n'ait pas toute la délicatesse : aussi ne la cherche-t-il pas. Il ne parle pas la moitié si bien qu'il écrit ».