Chùa Một Cột nằm trên phần đất thôn Phụ Bảo, tổng Yên Thành cũ. Đến giữa thế kỷ XIX thôn này đã hợp nhất với thôn Thanh Ninh và mang tên mới là Thanh Bảo. Đây là một ngôi chùa có kiến trúc hết sức độc đáo ở nước ta.

Chùa hình vuông, mỗi chiều 3m, mái cong dựng trên cột đá hình trụ có đường kính 1,2m, cao 4m (chưa kể phần chìm dưới đất) gồm 2 trụ đá chồng lên nhau, gắn rất khéo, thoạt nhìn cứ tưởng là một khối đá liền. Tầng trên đỡ một hệ thống những thanh gỗ tạo thành bộ khung sườn kiên cố đỡ cho ngôi chùa dựng bên trên, nhìn chẳng khác nào một đoá hoa sen vươn thẳng lên từ một hồ nhỏ hình vuông có xây lan can bằng gạch chung quanh. Một cầu thang xây xinh xắn dẫn lên chùa. Trên cửa chùa có tấm biển đề "Liên hoa đài" (đài hoa sen) gợi nhớ đến sự tích nằm mộng của vua Lý dẫn tới việc xây dựng chùa.

Sử cũ chép rằng: "Vua Lý Thái Tông chiêm bao thấy Phật Quan Âm dắt vua lên toà sen. Khi tỉnh dậy, vua đem việc ấy hỏi các quan. Có người cho là điềm không lành. Nhà sư Thiền Tuệ khuyên vua làm chùa, dựng cột đá ở giữa hồ, làm toà sen bên trên giống như đã thấy trong mộng. Rồi cho các sư chạy đàn tụng kinh. Vì vậy gọi là chùa Diên Hựu".

Sử còn cho biết cụ thể là chùa này xây vào khoảng tháng 10 năm Kỷ Sửu, tức vào tháng 9 năm 1049. Và văn bia tháp Diên Linh ở chùa Đọi (Duy Tiên, Hà Nam) soạn năm Tân Sửu (1121) tức là 72 năm sau khi xây xong chùa Một Cột có tả chùa này như sau: "... Giữa hồ vọt lên một cột đá, đỉnh cột nở đoá hoa sen nghìn cánh, trên sen dựng toà điện màu xanh, trong điện đặt pho tượng vàng tài năng nhân đức (tức tượng Quan Âm). Vòng quanh hồ là dãy hành lang: lại đào ao Bích Trì mỗi bên đều bắc cầu vồng để đi qua. Phía sân cầu đằng trước, hai bên tả, hữu xây tháp lưu ly...".

Như vậy, chùa Một Cột thời Lý lớn hơn ngày nay nhiều và cả kiểu dáng, những bộ phận hợp thành cũng phong phú hơn nhiều. Sang thời Trần, trong bốn câu đầu của bài thơ "Đề Diên Hựu tự" (đề chùa Một Cột) nhà sư Huyền Quang mô tả:

"Thượng phương thu dạ nhất chung lan

Nguyệt sắc như ba phong thụ đan

Xi vẫn đảo miên phương kinh lãnh

Tháp quang song trĩ ngọc tiêm hàn".

Nghĩa là:

Đêm thu trên gác chùa một tiếng chuông tan

Màu trăng như sóng gợn, cây bàng như son đỏ

Tượng những con xi vẫn (tức là những tượng chim, thú...) đắp trên mái chùa in xuống ao vuông lạnh như mặt gương, khác nào nằm ngược mà ngủ say.

Trước chùa hai toà tháp bóng láng như đôi tay ngọc lạnh ngắt.

Những tháp ấy nay không còn, cả những mái chùa có đắp hình các con thú "xi vẫn" cũng không còn. Vì chùa đã nhiều lần sửa chữa qua bao biến cố thăng trầm của Thăng Long - Đông Đô - Hà Nội. Không phải nói tới xa xưa, mà mới gần đây, ngày 11/9/1954, trước khi rút lui, thực dân Pháp đã cho nổ mìn phá hủy ngôi chùa Một Cột, chỉ còn lại cái cột đá và mấy chiếc xà gồ. Sau khi tiếp quản Thủ đô, Chính phủ đã cho làm lại nguyên dạng như trước và đến tháng 4/1955 thì hoàn thành.

Cạnh chùa Một Cột có một cây bồ đề lịch sử. Nguyên là năm 1958 Hồ Chủ tịch sang thăm Ấn Độ, Tổng thống Ấn Độ có tặng Bác một cây bồ đề. Về nước Bác đã cho trồng tại khu chùa Một Cột.