Những năm kháng chiến chống Pháp, thực hiện chủ trương đưa cán bộ vào vùng địch tạm chiếm xây dựng cơ sở, phát triển khu du kích, củng cố phong trào cách mạng, nắm tình hình địch tại các đồn, bốt, ban tề vũ trang, tiêu diệt những tên cầm đầu, ác ôn có nhiều nợ máu với nhân dân, Ty Công an Hà Nam quyết định thành lập lực lượng "Công an vũ trang xung phong" lấy biệt danh "Đội Công an Thiết Dũng".