Kesin olmamakla beraber adının Abdullah olduğu söylenir. Sarığına gelin teli taktığı için “Telli Baba” diye tanınmıştır. Bir rivayete göre, Fatih'in kutlu askerlerindendir. Şimdiki türbesinin bulunduğu yerdeki Kadiri dergâhında yıllarca hizmet etmiştir. Bu sırada boğazın manevî bekçiliğini yaptığı da söylenmektedir. Telli Baba'nın kabrinin bulunduğu yer, sağlığında zaviye ve çilehane olarak kullandığı yerdir. Vefat edince müritleri tarafından oraya defnedilmiştir. Rivayete göre, Boğaz'daki yalılardan birinde, birbirine komşu ve dost zengin iki aile varmış. Birinin çok güzel bir kızı diğerinin de bir oğlu varmış. Çocuklar birlikte büyümüşler, arkadaşlık etmişler. Bir gün gelmiş bu iki ailenin araları açılmış, birbirlerine düşman olmuşlar. Yıllar sonra çocuklar birbirlerine âşık olmuşlar. Ancak her iki aile de evlenmelerine karşı çıkmış. Bunun üzerine her iki genç birlikte kaçmaya karar vermişler ve bir plan yapıp bunu uygulamaya koymuşlar. Bir gece kayıkla boğaza açılmışlar. Karadeniz'e açılıp, en yakın bir köyde yerleşip, yuva kurmayı düşünmüşler. Onların kaçtıklarını öğrenen aileleri, silahlarıyla arkalarına düşmüşler. Sonunda her ikisini de yakalamışlar. Bu sırada atılan kurşunla kız vurulmuş, delikanlı ise denize atlamış, denizin azgın suları ile bir süre boğuştuktan sonra, Sarıyer sahiline çıkmış. Şimdiki Telli Baba türbesinin bulunduğu yere gelip yerleşmiş. Herkesten uzak yaşamaya başlamış. Bu zatın sevgilisine olan aşkı, zamanla gerçek aşka, Allah aşkına dönüşmüş. Bütün günlerini ibadet ve taatle geçirmeye başlamış. Sevgilisinden geriye kalan bir tutam gelin telini, başındaki takkesine taktığı için, halk ona Telli Baba demeye başlamış. Yine rivayete göre, İstanbul'un zengin Rum ailelerinden birinin genç ve güzel kızı hastalanmış. Onun bu hastalığına ne doktorlar, ne de başkaları bir çare bulamamışlar. Bu kız, bir gece rüyasında Telli Baba Türbesi'ni görmüş. Bir ses: "Bu türbeyi sık sık ziyaret et. Senin şifana sebep olacak hal oradadır." demiş. Bu rüya üzerine, Telli Baba'yı ziyaret etmişler, bu ziyaretlerini her gün tekrarlamışlar. Kız da her geçen gün kendini biraz daha iyi hissetmeye başlamış. Sonunda tamamen sağlığına kavuşmuş.