Syekh Abdus Samad al-Palembani lahir pada 1116 H atau bertepatan pada tahun 1704 M. Beliau merupakan putra dari Syekh Abdul Jalil bin Syekh Abdul Wahhab bin Syeikh Ahmad Al-Mahdani dengan Radin Ranti.
Ayah beliau adalah ulama yang berasal dari Yaman yang dilantik menjadi Mufti negeri Kedah pada awal abad ke-18. Sementara ibu beliau adalah wanita Palembang yang diperisterikan oleh Syeikh Abdul Jalil, setelah sebelumnya menikahi Wan Zainab, puteri Dato´ Sri Maharaja Dewa di Kedah.
Syeikh Abdus Shamad Al-Palembani selalu mengingatkan akan bahaya kesesatan yang diakibatkan oleh aliran-aliran tarekat tersebut, khususnya tarekat Wujudiyah Mulhid yang terbukti telah membawa banyak kesesatan di Aceh.
Untuk mencegah apa yang diperingatkannya itu, Syekh Al-Palembani menulis intisari dua kitab karangan ulama dan ahli falsafah agung abad pertengahan, Imam Al-Ghazali, yaitu kitab Lubab Ihya´ Ulumud Diin (Intisari Ihya´ Ulumud Diin), dan Bidayah Al-Hidayah (Awal Bagi Suatu Hidayah).
Dua karya Imam Al-Ghazali ini dinilainya secara ´moderat´ dan membantu membimbing mereka yang mempraktikkan aliran sufi.
Berkaitan dengan ajaran tasawufnya, Syekh Al-Palembani mengambil jalan tengah antara doktrin tasawuf Imam Al-Ghazali dan ajaran ´wahdatul wujud´ Ibnu Arabi; bahwa manusia sempurna (insan kamil) adalah manusia yang memandang hakikat Yang Maha Esa itu dalam fenomena alam yang serba aneka dengan tingkat makrifat tertinggi, sehingga mampu ´melihat´ Allah SWT sebagai ´penguasa´ mutlak.
Di Nusantara, khususnya di Indonesia, pengaruh Al-Palembani dianggap cukup besar, khususnya berkaitan dengan ajaran tasawuf.