Im Jahr 1231 ging in Konya, mitten in Anatolien, eine Schule für religiöse Gelehrsamkeit vom Vater auf den Sohn über; der Vater war eben gestorben. Baha al-Din Walad war Prediger und Rechtsgelehrter gewesen. Um 1216 hatte er seine Familie aus Zentralasien nach Westen geführt, kurz bevor die Mongolen einfielen, und sich 1229 auf Einladung des seldschukischen Sultans Ala al-Din Kayqubad in Konya niedergelassen. Er hinterließ die Ma'arif, ein Buch seiner eigenen mystischen Lehre. Der Sohn war Rumi; er war zum Gelehrten erzogen worden. 1232 kam Burhan al-Din Tirmidhi, ein früherer Schüler des Vaters, nach Konya und unterrichtete ihn etwa neun Jahre lang. Rumi studierte weiter in Aleppo und Damaskus; Anfang der 1240er Jahre war er ein Rechtsgelehrter der hanafitischen Schule, der in der Stadt Gutachten erteilte und predigte.
Im November 1244 kam Schams von Täbris, ein wandernder Derwisch, nach Konya. Rumi, damals siebenunddreißig, schloss sich dem Fremden so vollständig an, dass seine eigenen Schüler es ihm übelnahmen. Mit Schams kam der sama, eine Andacht in Musik und Tanz, die viele Rechtsgelehrte missbilligten; Sultan Walad, Rumis älterer Sohn, schrieb später, sein Vater habe nie aufgehört, Musik zu hören und zu tanzen. 1246 ging Schams nach Syrien. In seiner Abwesenheit schrieb Rumi Liebesgedichte, um ihn zurückzurufen – obwohl er später sagte, dort, wo er herkomme, gebe es nichts Schändlicheres, als ein Dichter zu sein. Sultan Walad reiste nach Damaskus und brachte Schams im folgenden Jahr zurück. Ende 1247 oder 1248 verschwand Schams für immer. Manche Berichte sprechen von Mord, und der Verdacht fiel auf Rumis jüngeren Sohn Ala al-Din; ob Schams getötet wurde oder einfach fortging, weiß man nicht. Rumi reiste nach Damaskus, um ihn zu suchen, und fand ihn nicht.
Seine Dichtung sagt, was der Rechtsgelehrte in diesen Jahren lernte: Nicht die Gelehrsamkeit, sondern die Liebe führt die Seele zu Gott zurück. Jede Seele ist nach Rumi von dem Ursprung abgeschnitten, aus dem sie kam, und lebt in der Sehnsucht, dorthin zurückzukehren; diese Sehnsucht ist ihr sicherster Wegweiser. Wissen, das seinen Besitzer unverändert lässt, führt nirgendwohin; wer nur dem Beweis traut, geht – so eines seiner Bilder – auf hölzernen Beinen. Die Liebe zu einem einzigen Menschen kann den Weg öffnen, weil sie das Hindernis zerbricht: das gelehrte, angesehene Ich. Etwa ein Drittel seiner Ghaselen, kurzer gereimter Liebesgedichte, unterzeichnete Rumi nicht mit dem eigenen Namen, sondern mit dem des Schams. Aus dem Islam führte ihn nichts davon hinaus: Er blieb ein muslimischer Lehrer, der mit dem Koran und den Aussprüchen des Propheten argumentierte, und spätere Leser nannten sein längstes Gedicht den Koran in persischer Sprache.
Dieses Gedicht, das Masnawi, ist sein bekanntestes. Um 1260 bat ihn Husam al-Din Chalabi, sein Schüler und späterer Schreiber, um ein Lehrgedicht, und Rumi verbrachte seine verbleibenden Jahre damit, es Husam zu diktieren: sechs Bücher mit Geschichten und Lehre in rund 25.000 Doppelversen, das letzte unvollendet.
Rumi starb am 17. Dezember 1273 in Konya. Nach dem Bericht Aflakis, eines späteren Biographen des Mevlevi-Ordens, trauerten auch Christen und Juden in der Menge um ihn. Zunächst führte Husam seine Anhänger; danach schloss Sultan Walad sie zu dem Orden zusammen, in dessen Mitte der sama mit seinem Drehtanz steht. 1898 veröffentlichte der Cambridger Gelehrte Reynold Nicholson eine Auswahl der Liebesgedichte auf Englisch. Ab 1976 formte Coleman Barks, ein amerikanischer Dichter, der kein Persisch las, solche wissenschaftlichen Übersetzungen zu Büchern um, die Rumi in den Vereinigten Staaten zum Bestsellerdichter machten; Kritiker haben diesen Fassungen vorgeworfen, den Islam aus den Gedichten zu tilgen. In Konya ist sein Grabmal heute ein Museum, und an jedem 17. Dezember begehen Mevlevi-Derwische seinen Todestag mit dem Drehtanz.