باباطاهر در شهر همدان زندگی خود را به گمنامی سپری کرد و در همان شهر وفات یافت. اینک آرامگاه زیبای اودر همدان زیارتگاه عاشقان شعر و ادبیات و هنر دوستان است. آنچه از گذشتگان به ما رسیده است، یادکردی از زیست عارفانه و خوی درویشی اوست. به تدریج در اثر پاکی درون، خودسازی و بیعلاقگی به دنیا، دارای کراماتی شد که نام او را بر زبانها انداخت.
از خاندان، تحصیلات و زندگی باباطاهر اطلاعات صحیحی در دسترس نیست، اما بنا به نوشته راوندی در راحةالصدور، باباطاهر در سال ۴۴۷ هجری با طغرل سلجوقی دیدار کرده و مورد احترام وی نیز قرار گرفتهاست. در یکی از دوبیتیهای مشهورش، سال تولدش را به حروف ابجد گنجانیده که پس از محاسبه توسط میرزا مهدی خان کوکب به سال ۳۲۶ هجری رسیدهاست. اما رشید یاسمی با استناد به همان دو بیتی و اشاره به اهمیت عدد ۱۰۰۰ نزد اغلب ملل برآن رفتهاست که مقصود باباطاهر از واژه الف سال ۱۰۰۰م بوده و در نتیجه مقارن سالهای ۳۹۰ و ۳۹۱ (برابر با ۱۰۰۰ میلادی) زاده شدهاست. او پس از ۸۵ سال زندگی، در همدان، وفات یافتهاست.