Cũng tại Khởi nghĩa này, lực lượng vũ trang đầu tiên do Đảng tổ chức và lãnh đạo - Đội Du kích Bắc Sơn đã hình thành, làm cơ sở để thúc đẩy sự ra đời, trưởng thành của Cứu Quốc quân, nay là Quân đội nhân dân Việt Nam.
Ngày 1/9/1930, Đức tấn công Ba Lan, mở đầu cuộc chiến tranh thế giới thứ 2. Ngày 3/9/1939, Anh và Pháp tuyên chiến với Đức. Đế quốc Pháp lúc này điên cuồng tiến công vào Đảng Cộng sản và các đoàn thể quần chúng. Ngày 29/9, Pháp bắt giam đồng chí Lê Hồng Phong tại Sài Gòn.
Trước tình hình đó, Trung ương Đảng đã kịp thời chỉ thị cho tất cả các cấp bộ Đảng rút vào hoạt động bí mật, chuyển trọng tâm công tác về nông thôn, dựa vào nông thôn để xây dựng căn cứ địa cách mạng. Thừa cơ nước Pháp thất thủ, phát xít Nhật tìm cách nhảy vào chiếm thuộc địa Đông Dương.
Mặc dù chính quyền thực dân Pháp ở Đông Dương đã chấp nhận hầu hết yêu sách của Nhật, song, ngày 23/9/1940, quân Nhật vẫn cho quân vượt biên giới Việt - Trung đánh chiếm Lạng Sơn, đồng thời đổ bộ lên Đồ Sơn. Sau vài trận nhỏ, quân Pháp thất bại nặng nề. Một số lớn đầu hàng, số còn lại tháo chạy theo hướng Điềm He - Bình Gia - Bắc Sơn - Thái Nguyên, vứt bỏ cả súng đạn…
Không bỏ lỡ thời cơ, một số đảng viên cộng sản vừa thoát khỏi Nhà tù Lạng Sơn chạy về Bắc Sơn, cùng Đảng bộ Bắc Sơn họp bàn và quyết định lãnh đạo nhân dân khởi nghĩa, thành lập Ban Chỉ huy khởi nghĩa.
20 giờ ngày 27/9/1940, lực lượng khởi nghĩa khoảng 600 người gồm: tự vệ, quần chúng các dân tộc Tày, Dao, Nùng, Kinh... chia làm ba mũi, nổ súng tiến công đồn Mỏ Nhài (châu lỵ Bắc Sơn). Trước khí thế của quân khởi nghĩa, tri châu và binh lính bỏ đồn tháo chạy. Ban Chỉ huy khởi nghĩa tuyên bố xóa bỏ chính quyền đế quốc, hạ lệnh đốt sổ sách, giấy tờ của địch.
Ngày 28 và 29, quân khởi nghĩa liên tiếp phục kích tiêu diệt hoặc tước khí giới tàn binh Pháp ở Canh Tiêm, Sập Dì, Nà Ti, Thâm Thông… Giữa lúc Ban Chỉ huy khởi nghĩa đang lúng túng tìm cách đối phó, Xứ ủy Bắc Kỳ kịp thời cử đồng chí Trần Đăng Ninh lên tăng cường lãnh đạo. Trung tuần tháng 10, Ban Chỉ huy khu được thành lập do đồng chí Trần Đăng Ninh đứng đầu.
Ngày 13/10/1940, cuộc họp ở rừng Tân Hương để bàn về các biện pháp xây dựng phong trào cách mạng Bắc Sơn. Qua thảo luận, Hội nghị quyết định: Tập trung đảng viên và một số quần chúng tích cực, thu thập vũ khí để thành lập đơn vị du kích Bắc Sơn đầu tiên.
Ngày 28/10, Ban Chỉ huy du kích tổ chức một cuộc mít tinh vũ trang tại trường Vũ Lăng, chuẩn bị chiếm lại đồn Mỏ Nhài, đồng chí Trần Đăng Ninh tuyên bố "Đội du kích Bắc Sơn” được thành lập và kêu gọi nhân dân ủng hộ Đội du kích Bắc Sơn, tiếp tục đẩy mạnh cuộc khởi nghĩa. Cuộc mít tinh bị quân Pháp đánh úp. Sau trận này, quân Pháp tiến hành chiến dịch khủng bố trắng lần thứ hai.
Cuộc khởi nghĩa Bắc Sơn bị thất bại, tuy chưa thành lập được chính quyền, chưa biết nắm chắc thời cơ để liên tục tiến công, mở rộng thanh thế, nhưng cuộc khởi nghĩa đóng một vai trò quan trọng: đã hình thành lực lượng vũ trang đầu tiên do Đảng tổ chức và lãnh đạo (sau này phát triển thành Việt Nam Cứu quốc quân); là tiền đề cho các hình thức đấu tranh của cách mạng Việt Nam; bài học về chọn thời cơ, quyết tâm giành thắng lợi cách mạng. Từ đó, các địa phương đều ủng hộ phong trào Bắc Sơn, học tập Bắc Sơn để xây dựng lực lượng vũ trang, đợi thời cơ khởi nghĩa.
Có thể khẳng định, cuộc Khởi nghĩa Bắc Sơn đã mở đầu thời kỳ cách mạng nước ta sử dụng các hình thức bạo lực cách mạng, đấu tranh vũ trang kết hợp với đấu tranh chính trị, nổi dậy của quần chúng kết hợp với tiến công của các lực lượng vũ trang cách mạng, đánh đổ đế quốc và phong kiến, giúp cho Đảng ta có thêm những kinh nghiệm thực tiễn quý báu và cơ sở lý luận cho đường lối đấu tranh cách mạng, giải phóng dân tộc; là tiền đề và điều kiện quan trọng để Đảng ta lãnh đạo tổng khởi nghĩa năm 1945 thắng lợi, giành chính quyền về tay nhân dân, khai sinh nước Việt Nam Dân chủ Cộng hòa. Tiếng súng Khởi nghĩa Bắc Sơn đã thức tỉnh tinh thần cách mạng của nhân dân cả nước.
Khởi nghĩa Bắc Sơn mãi mãi được ghi vào lịch sử cách mạng nước ta như một tấm gương về chủ nghĩa anh hùng cách mạng của nhân dân Việt Nam.
B.T