Các nhà tù khác thường biệt lập với khu dân cư, riêng Hỏa Lò nằm tại trung tâm Hà Nội – thủ phủ của chính quyền thực dân khi đó. Bên cạnh nhà tù là tòa đại hình và sở mật thám, tạo thành thế chân kiềng, sẵn sàng đàn áp phong trào cách mạng của nhân dân ta. Hỏa Lò là công trình kiên cố vào loại bậc nhất Đông Dương, đến con kiến cũng khó lòng qua nổi. Bao quanh nhà tù là bức tường bằng đá, cốt thép cao 4m, dày 0,5m, được gia cố bởi hệ thống dây thép gai có dòng điện cao thế chạy qua, bốn góc là những tháp canh có khả năng quan sát nhất cử nhất động toàn bộ trại giam. Riêng hệ thống cửa sắt, khóa được mang từ Pháp sang. Các phòng giam, phòng tối, xà lim chật chội, thiếu không khí và những tên cai ngục khét tiếng, có thâm niên cai quản nhà tù Côn Đảo sẵn sàng đàn áp, thậm chí cướp đi sinh mạng của tù nhân.

Nhà tù Hỏa Lò thực sự là địa ngục trần gian. Ngay từ khi chưa hoàn thành, tháng 1/1899 nhà tù Hỏa Lò đã đảm nhận việc giam người. Theo thiết kế ban đầu, Hoả Lò chỉ đủ giam 500 tù nhân, nhưng nó đã nhiều lần được mở rộng để có thêm chỗ giam giữ tù nhân. Những năm 1950 – 1953, Hỏa Lò giam cầm tới 2.000 người tù. Hiện nay, khu di tích Hỏa Lò còn lưu giữ chiếc máy chém đã được thực dân Pháp dùng lưu động, tháng 1/1930 được vận chuyển lên Yên Bái để hành hình 13 chiến sĩ Việt Nam Quốc dân đảng bị bắt trong cuộc khởi nghĩa Yên Bái (đứng đầu là Nguyễn Thái Học).

Nhiều thế hệ người Việt Nam đã bị giam cầm tại nhà tù Hỏa Lò, đó là các nhà nho yêu nước như cụ Phan Bội Châu, Lương Văn Can, Dương Bá Trạc. đến các đồng chí Nguyễn Văn Cừ, Trường Chinh, Lê Duẩn, Nguyễn Văn Linh, Đỗ Mười… những người con ưu tú của dân tộc ta, sau này trở thành Tổng Bí thư Đảng Cộng sản Việt Nam, cùng nhiều cán bộ chiến sĩ cách mạng khác. Dù bị kẻ thù đánh đập, giam cùm vào ngục tối, thậm chí phải hy sinh cả tính mạng nhưng các chiến sĩ vẫn giữ vững ý chí đấu tranh. Nhà tù Hỏa Lò đã trở thành trường học cách mạng, là môi trường rèn luyện tư tưởng, ý chí đấu tranh cách mạng. Ngay trong nhà tù Hỏa Lò, các lớp huấn luyện chính trị tập trung được mở, các tờ báo Lao tù đỏ, Lao tù tạp chí… ra đời khiến kẻ thù phải nể phục. Năm 1930, chi bộ Đảng Cộng sản đầu tiên được thành lập do đồng chí Hoàng Quốc Việt làm bí thư đã phát huy vai trò người lãnh đạo, tổ chức được nhiều cuộc đấu tranh, giành thắng lợi.

Sau ngày thủ đô hoàn toàn giải phóng (10/10/1954), nhà tù Hỏa Lò đặt dưới sự quản lý của chính quyền cách mạng. Từ năm 1964 – 1973, nhà tù Hỏa Lò còn được dùng để giam giữ phi công Mỹ bị bắn rơi trong cuộc chiến tranh phá hoại miền Bắc của đế quốc Mỹ, trong đó có P.Peterson – sau này là Đại sứ Mỹ đầu tiên ở Việt Nam.

Năm 1993, trên nền đất của Hỏa Lò tháp Hà Nội – một trung tâm thương mại được xây dựng, phần còn lại trở thành di tích lịch sử cách mạng đặc biệt của thủ đô, đó là chứng tích tội ác của thực dân Pháp. Nơi đây còn lưu giữ nhiều tài liệu, hồ sơ về những tấm gương bất khuất, chiến đấu hy sinh oanh liệt của nhiều thế hệ các chiến sĩ cộng sản bị địch bắt tù đày. Khu di tích Hỏa Lò hiện còn khá nguyên vẹn với nhiều tư liệu quý, được trưng bày khoa học, là điểm tham quan hấp dẫn, thu hút nhiều du khách trong và ngoài nước mỗi dịp đến Hà Nội.