Ngày đầu thành lập, đội bóng đá Thể Công chỉ có 11 người, vừa đủ một đội hình thi đấu. Thủ quân của đội lúc đó là đồng chí Nguyễn Văn Bưởi, thi đấu ở vị trí tiền đạo. Huấn luyện viên (HLV) đầu tiên kiêm cầu thủ của đội là Nguyễn Thông, danh thủ nổi tiếng Đông Dương khi ấy, với biệt danh 'Túc cầu tiểu vương'.
Ngày 23/9/1954, Chủ nhiệm Tổng cục Chính trị Nguyễn Chí Thanh đã ký quyết định thành lập Đoàn công tác thể dục, thể thao quân đội - quyết định có ý nghĩa đặt nền móng cho hoạt động thể thao của quân đội ta.