Các hầm được phân bố trên 2/3 quả đồi, cửa hầm hướng xuống chân đồi, hầm có hình chữ nhật, chiều rộng bằng 2/3 chiều dài. Trừ hầm số 1 chìm sâu xuống lòng đất, các hầm còn lại đều nổi lên mặt đất từ 1/3 đến 2/3 chiều cao của hầm. Hầm được xây dựng kiên cố bằng bê tông cốt sắt, trần hầm có độ dày 0,5m.
Những hầm này còn được gọi là chuồng cọp, trong hầm được chia thành 2 dãy xà lim chuồng cọp, mỗi chuồng rộng 0,9m, dài 0,2m, cao 1,5m phía trên đầu là một lưới sắt, mỗi hầm có 1 lỗ thông hơi nhỏ.
Tùy theo thành phần và đối tượng mà thực dân Pháp và đội ngũ tay sai tổ chức giam giữ ở các hầm khác nhau. Ngoài giam giữ tội phạm về hình sự của các tôn giáo (chủ yếu là Phật giáo), người trong các tổ chức chính trị đối lập, những người tham gia các cuộc đấu tranh biểu tình như học sinh, sinh viên, tiểu thương..., nhà giam Chín Hầm là trung tâm giam giữ các cán bộ chiến sĩ cách mạng mà chúng bắt về từ nhiều nơi trên cả nước.
Đáng kể nhất là căn hầm số 8 - căn hầm được gọi là "Địa ngục trần gian". Hầm có diện tích 72,88m2, tường dày 0,40m, về cấu trúc xây dựng cũng tương tự các hầm khác, tuy nhiên được thiết kế hơi chìm sâu xuống lòng đất. Hầm chỉ có một cửa chính ra vào (rộng 1,5m và cao 2m) làm bằng thép đặc biệt, bên trên có một lỗ thông hơi khoảng 30cm. Trong hầm được phân chia thành 20 ô xà lim biệt giam, chia làm hai dãy, mỗi dãy 10 xà lim, ở giữa có lối đi rộng gần 2m. Mỗi xà lim có chiều dài 1,8m, rộng 0,80m, cao 1,8m; tường ngăn cách giữa các xà lim dày 0,2m, bên trên xà lim có chắn các song sắt với 16 thanh ngang và 2 thanh dọc đan chắn trên đầu; phía trước xà lim đóng kín bằng một cánh cửa rộng 0,6m, cao khoảng 1,5m. Mỗi xà lim được lót một tấm ván hẹp để tù nhân nằm và một cái xô sắt để đi vệ sinh. Đây là căn hầm Ngô Đình Cẩn sử dụng giam giữ những chiến sĩ công sản như Phan Trọng Tịnh, Nguyễn Minh Vân, Nguyễn Văn Quý, Nguyễn Đình Trân, Nguyễn Văn Hội, Nguyễn Văn Nại, Lê Văn Hoàng, Lý Văn Liễn, Nguyễn Hữu Đà, Nguyễn Đình Tỉnh, Bùi Bá Vu... và rất nhiều chiến sĩ Cộng sản trung kiên khác.
Từ khi Chín Hầm được xây dựng xong hàng ngàn người yêu nước của bao thế hệ con người Việt Nam đấu tranh chống lại chế độ tay sai thực dân, đế quốc xâm lược đã phải sống và chết nơi chốn lao tù này. Sau năm 1954, Chín Hầm là trung tâm giam giữ những chiến sĩ cách mạng. Đây là một kiểu nhà tù đặc biệt điển hình của chế độ gia đình trị họ Ngô ở miền Trung.