1091 vergab Niẓām al-Mulk, erster Minister der seldschukischen Sultane, die damals in Bagdad herrschten, den Lehrstuhl seiner dortigen Hochschule, der Niẓāmiyya, an einen Rechtsgelehrten aus Ṭūs in Chorasan. Abū Ḥāmid al-Ghazālī war in Nischapur bei al-Juwaynī ausgebildet worden, dem führenden Theologen der aschʿaritischen Schule, und das Amt stellte ihn in die Mitte der sunnitischen Gelehrsamkeit. Die sunnitische Lehre sah sich damals zwei Herausforderungen zugleich gegenüber. Die ismāʿīlitischen Schiiten, die einen rivalisierenden Kalifen in Kairo unterstützten, lehrten, Wahrheit könne allein von einem unfehlbaren Imam kommen. Die falāsifa, Philosophen in der Nachfolge des Aristoteles und vor allem Avicennas, behaupteten, durch strenge Beweisführung zu zeigen, dass die Welt keinen Anfang habe und dass Gott die Dinge nur im Allgemeinen kenne. Al-Ghazālī antwortete beiden. In Erinnerung geblieben ist er durch zwei Schritte, die auseinanderzustreben scheinen: Er kehrte die Logik der Philosophen gegen ihre eigenen Beweise und kam dann zu dem Schluss, dass sich die Gewissheit, die er suchte, durch Beweise überhaupt nicht erreichen lasse.
Der erste Schritt ist Die Inkohärenz der Philosophen, um 1095 in Bagdad verfasst. Ihr Vorwurf lautet, die Philosophen hätten nicht bewiesen, was sie bewiesen zu haben behaupteten. Von den zwanzig Positionen, die das Buch prüft, hielt al-Ghazālī drei für Unglauben – dass die Welt immer bestanden habe, dass Gott die Einzeldinge nicht kenne und dass der Leib bei der Auferstehung nicht auferweckt werde –, und am Ende des Buches urteilte er als Rechtsgelehrter, wer sie öffentlich lehre, sei ein Apostat, den man töten dürfe. Die berühmteste Erörterung des Buches gilt Ursache und Wirkung. Berührt Feuer Baumwolle, so brennt die Baumwolle; doch nichts, was wir beobachten, zeigt, dass das Feuer sie brennen lässt. Gott erschafft das Brennen, und was wir Natur nennen, ist die Ordnung, die Gott gewöhnlich einhält.
In Der Erretter aus dem Irrtum, dem Bericht über seinen eigenen Weg, erzählt al-Ghazālī, er habe die Philosophen zwei Jahre lang auf eigene Faust studiert und im dritten seine Widerlegung geschrieben. Die moderne Forschung liest das als Verteidigung gegen Kritiker: Ihrer Ansicht nach begegnete er diesen Gedanken viel früher, bei al-Juwaynī, dessen Werke bereits Avicennas Einfluss zeigen. Was er gebrauchen konnte, behielt er. In Miʿyār al-ʿilm, „Der Maßstab des Wissens“, lehrte er die Theologen die aristotelische Logik als Werkzeug, und durch ihn fand diese Logik dauerhaft Eingang in die religiösen Wissenschaften.
Der zweite Schritt fiel in dieselben Jahre. Nach eigenem Bericht hatte er einst an den Sinnen und sogar an der Vernunft gezweifelt, und die Gewissheit kehrte nicht als Ergebnis eines Arguments zu ihm zurück, sondern als ein Licht, das Gott ihm in die Brust warf. Danach prüfte er die Theologen, die Philosophen, die Ismāʿīliten und die Sufis, die muslimischen Mystiker, und fand, dass nur die Sufis besaßen, was ihm fehlte: ein Wissen, das durch Übung und unmittelbare Erfahrung gewonnen wird. Er sei zu dem Urteil gekommen, schreibt er, dass seine Lehrtätigkeit seinem Ruf diente und nicht Gott. 1095, nach etwa sechs Monaten der Unentschlossenheit, versagte ihm am Katheder die Zunge, und seine Ärzte erklärten, die Krankheit sitze im Herzen. Er kündigte eine Pilgerfahrt nach Mekka an, ging stattdessen nach Damaskus und lebte dort zurückgezogen; nach eigener Aussage verbrachte er seine Tage hinter verschlossener Tür in einem Minarett der großen Moschee. 1096 gelobte er am Grab Abrahams in Hebron, nie wieder einem Herrscher zu dienen oder an einer vom Staat bezahlten Hochschule zu lehren.
Das Buch dieser Jahre ist das Iḥyāʾ ʿulūm al-dīn, The Revival of the Religious Sciences: vierzig Bücher, die das innere Leben – Aufrichtigkeit, Geduld, Gottesliebe, das Gedenken des Todes – neben das Gesetz stellen, das die äußeren Handlungen regelt. 1106, zu Beginn eines neuen islamischen Jahrhunderts, brach er sein Gelübde und kehrte als Lehrer an die Niẓāmiyya von Nischapur zurück. Er berief sich auf eine verbreitete Verwirrung in Glaubensdingen und auf Druck vom Hof; ein Wort des Propheten verheißt zu jeder Jahrhundertwende einen Erneuerer der Religion, und er zählte sich selbst dazu. Kritiker in Nischapur warfen dem Iḥyāʾ vor, es sei von Philosophie durchsetzt, und in al-Andalus ließ der Herrscher der Almoraviden, so berichten Chronisten, in Córdoba Exemplare verbrennen; meist datiert man das auf 1109. Er starb im Dezember 1111 in Ṭūs.
Das lateinische Europa kannte ihn als „Algazel“ durch ein einziges Buch, Maqāṣid al-falāsifa, „Die Ziele der Philosophen“, seine Zusammenfassung von Avicennas Lehre. Die Übersetzer in Toledo ließen die Zeilen weg, in denen er erklärte, er referiere nur, und so galt Algazel als treuer Anhänger Avicennas; das Buch wurde für Thomas von Aquin und dessen Lehrer Albertus Magnus zu einer Hauptquelle über die arabischen Philosophen. Averroes, der andalusische Philosoph, antwortete auf die Inkohärenz Punkt für Punkt in Tahāfut al-tahāfut, „Die Inkohärenz der Inkohärenz“, und viele westliche Leser übernahmen das Urteil dieser Erwiderung, das Original sei keine Philosophie. Ob sein Angriff ernsthafter Philosophie in der islamischen Welt ein Ende setzte, ist bis heute umstritten; Historiker der islamischen Philosophie verweisen auf die Philosophen, die nach ihm schrieben. Unter muslimischen Theologen wurde seine Regel für den Konflikt zwischen Vernunft und Wortlaut der Schrift fast überall angenommen: Wo ein Beweis wirklich zwingend ist, muss das Wort im übertragenen Sinn gelesen werden. Noch heute nennt man ihn Ḥujjat al-Islām, den Beweis des Islam.