Az iszlám birodalom Kr.u. 7. század közepétől történt látványosan gyors kiépülése következtében fellépő gazdagság számos korábban sivatagi körülmények között élt és Mohamed prófétának valamint társainak szerény életvitelét ismerő muszlimot késztetett a világ hiúságairól való lemondásra. Ezek az emberek, akik az Allahnak való teljes odaadást hirdették és gyakorolták, nem vonultak vissza a világtól, nem hirdettek intellektualizmusellenességet, csak az új társadalom visszásságait bírálták. Közülük a leghíresebb a 728-ban meghalt Haszan al-Baszrí volt, akit az első szúfi mesternek tartanak. Az ő személyében még nem vált ketté a teológusok és a szúfik útja. 

 

Egy évszázaddal később, amikor a Koránra és a prófétai hagyományokra (Mohamed kinyilatkoztatásaira, cselekedeteire, véleményeire) épülő iszlám teológia és jogrendszer bonyolultsága, szőrszálhasogatása az egyszerű hívők tömegei számára követhetetlenné vált, egyre többen hirdették, hogy a hit igazi formája nem elsősorban a vallásjog minél tökéletesebb (és egyre kevesebbek számára elérhető) tudásában, hanem a világtól való elfordulásban, a szív odaadásában, az Allah iránti szeretetben nyilvánul meg.  Ezek az igehirdetők durva gyapjúszövetből (arabul: szúf) készült egyszerű ruhát viseltek; innen az iszlám misztikusok elnevezése. (Perzsa megnevezésük a nálunk török hatásra elterjedt dervis.) A szúfik azonban nem a lemondást, a mindennapi élettől való teljes visszavonulást, hanem a szeretetben az Istennel való spirituális egyesülés lehetőségét tanították, és időnként meg is élték. Ez a teológiánál sokkal egyszerűbb tanítás hamarosan nagy népszerűségre tett szert az egyszerű muszlimok körében; különösen az újonnan iszlamizált népek között Iránban, Indiában és Észak-Afrikában.

 

Az "unio mistica", az Istennel való egyesülés gondolata azonban igen veszélyesnek bizonyult a szigorúan monoteista iszlámban: egyes szélsőséges szúfik prófétai tulajdonságokkal ruházták fel magukat, amivel kivívták mind a mainstrean ortodox vonalat képviselő szunniták, mind a kisebbségi síiták haragját, akik szerint csak a Próféta leszármazottjai, az imámok részesülhettek sajátos isteni megvilágosodásban. 922-ben egy perzsa szúfi, al-Halládzs extatikus állapotban tett kijelentését - Én vagyok az Igazság! - egy szunnita-síita közös bíróság blaszfémiaként értelmezte és al-Halládzsot kereszthalálra ítélte. (Az "Igazság" kifejezés ugyanis Allah 99 nevének egyike.)

 

A szélsőségek jelentkezése sürgetővé tette a teológia és a szúfizmus viszonyának rendezését. A 11. század kaotikus politikai viszonyai és bizonytalansága egyre több muszlimot a misztika felé sodort. Kezdetben az ortodox teológia a szúfizmust kívülről származó más vallások átültetésének tartotta, amely az iszlám alapvető tanításaival ellenkezik. Kimutatható például a neoplatonizmus emanáció-tana, amely szerint a világ az Egy (Isten) kiáramlása és a szúfi ezen az úton visszafelé közelít Allahhoz. Számos külső hatást iszlamizált azonban a szúfizmus. A buddhista nirvánában gyökerezik ugyan a szúfi isteni princípiumban való megsemmisülésének (faná) a gondolata, de míg a nirvána után nem jön semmi, a faná után a baqá, az Istennel való örök együttlét következik. Ugyancsak valószínűsíthető a keresztény szerzetesség hatása a szúfik szegénységet, koldulást választó életmódjában és később rendekké szerveződő közösségeiben; a teljes aszkézist és a cölibátust azonban néhány szélsőséges irányzat kivételével a szúfizmus elutasítja.