Được xây dựng trước khi có kinh thành Thăng Long, đền Bạch Mã có từ năm 866. Tương truyền khi đó Cao Biền, một viên tướng Tàu sang nước Nam đắp thành Đại La.

Cao Biền nổi tiếng là người có nhiều phép thuật nhưng không đắp nổi thành. Thành đang đắp dở đã bị sụt lở. Một đêm, Cao Biền đứng trên vọng lâu nhìn ra thấy một vị thần cưỡi ngựa trắng chạy đi chạy lại như bay rồi bảo Cao Biền cứ theo vết chân ngựa chạy mà đắp thành. Quả nhiên sau đó thành xây đến đâu vững đến đấy. Sau khi đắp xong thành, Cao Biền cho lập đền thờ vị thần cưỡi ngựa trắng ở ngay nơi vị thần đã xuất hiện và lấy tên là đền Bạch Mã. Trong các vị thần thiêng ở Long Thành, Bạch mã Đại Vương là linh thiêng nhất. Đây là vị thần chúa tể một khu vực ngàn dặm và được tất cả các đời vua cúng tế.

Đền Bạch Mã là ngôi đền lớn, có kiến trúc cổ, quy mô bề thế và giữ được những nét truyền thống từ thời Lý - Trần. Đền được xây theo hình chữ “tam”, bên ngoài là phương đình tám mái, có một tam bảo và có hơn 13 hoành phi, văn bia nói về thần Long Đỗ và Bạch Mã. Trong các ngôi đền ở Hà Nội, đền Bạch Mã hiện còn lưu giữ được nhiều bia nhất. Trong quan niệm người phương Đông, ngựa trắng đồng nhất với mặt trời mọc phương Đông. Chính vì thế, đền Bạch Mã được xếp vào hàng Thăng Long tứ trấn (bốn điểm chốt trấn giữ thành Thăng Long). Đền Bạch Mã xưa thuộc phường Hà Khẩu, tổng Hữu Túc, huyện Thọ Xương, phủ Hoài Đức - là cửa sông Tô Lịch thông với sông Hồng - hai dòng sông huyết mạch của Hà Nội cổ.

Trong cuộc kháng chiến chống Mỹ, bom B52 rải thảm ở miền Bắc, mọi thứ xung quanh đền đều bị tàn phá, riêng ngôi đền vẫn còn đó. Hiện ngôi đền vẫn giữ nguyên kiến trúc nhưng được sắp xếp lại theo cấu trúc Tam nguyên đồng hóa - tức là thêm điện thờ Phật và Mẫu. Lễ hội đền hàng năm diễn ra vào tháng hai âm lịch. Trước đây người ta còn tổ chức đánh trâu rước xuân vào đúng hội... Nằm ngay giữa phố Hàng Buồm, giữa những lô xô mái ngói rêu phong phố cổ, đền Bạch Mã trở thành một điểm nhấn bức tranh phố cổ Hà Nội. Nếu ghé thăm phố cổ Hà Nội, bạn nhớ ghé thăm ngôi đền linh thiêng này.