آرامگاه بابا طاهر بر فراز تپهای در شمال باختری همدان قرار دارد. این بنا در طول قرون مختلف شاهد تخریب و بازسازیهای متعدد بودهاست. قدمت مقبره اصلی بابا طاهر به دوره سلجوقیان میرسد و در قرن ششم هجری یک برج هشت ضلعی آجری بر روی قبر بابا طاهر ساخته شد که بعدها بر اثر مرور زمان ویران شد.
احداث بنای جدید در سال ۱۳۴۴ خورشیدی با همت انجمن آثار ملی و شهرداری همدان و توسط مهندس محسن فروغی انجام شدهاست.
کاشی انتخاب شده از این بنا روی سقف قرار دارد و شامل رنگ های لاجوردی، زرد، مشکی، فیروزهای و اخرایی است.