Hồ Chí Minh luôn luôn đề cao vị trí vai trò của đội ngũ cán bộ. công chức. Người coi cán bộ nói chung "là cái mốc của mọi công việc", "muốn việc thành công hay thất bại đều do cán bộ tốt hay kém".
Để xây dựng một Nhà nước pháp quyền vững mạnh, vấn đề xây dựng đội ngũ cán bộ, công chức được Hồ Chí Minh đặc biệt quan tâm. Nói một cách tổng quát nhất về yêu cầu đối với đội ngũ này theo Hồ Chí Minh, đó là những người vừa có đức, vừa có tài, trong đó đức là gốc: đội ngũ này phải được tổ chức hợp lý có hiệu quả.
Đi vào những mặt cụ thể, Hồ Chí Minh nói lên những yêu cầu sau đây về xây dựng đội ngũ cán bộ, công chức.
Một là, tuyệt đối trung thành với cách mạng.
Đây là yêu cầu đầu tiên cần có đối với đội ngũ cán bộ, công chức. Cán bộ, công chức phải là những người kiên cường bảo vệ chế độ xã hội chủ nghĩa, bảo vệ Nhà nước. Hồ Chí Minh nhấn mạnh lòng trung thành đó không phải là những điều trừu tượng, chung chung, mà phải được thực hiện hàng ngày, hàng giờ, trong mọi lĩnh vực công tác, thể hiện trong kết quả thực tế công tác. Lòng trung thành đó thể hiện hàng ngày, hàng giờ, nhưng phải được thể hiện đặc biệt rõ trong những lúc đất nước gặp khó khăn, thử thách, chuyển giai đoạn.
Hai là, hăng hái, thành thạo công việc, giỏi chuyên môn, nghiệp vụ.
Chỉ với lòng nhiệt tình thì chưa đủ và cùng lắm chỉ phá được cái xấu, cái cũ mà không xảy được cái tốt, cái mới. Yêu cầu tối thiểu là đội ngũ cán bộ, công chức phải hiểu biết công việc của mình, biết quản lý nhà nước, do vậy, phải được đào tạo và tự mình phải luôn luôn học hỏi. Đó là tính chuyên nghiệp của đội ngũ công chức. Công chức phải chuyên sâu nghiệp vụ, phải luôn luôn học tập không ngừng nghỉ, học mọi lúc, mọi nơi, học tập suốt đời. Hồ Chí Minh chính là con người điển hình của tự học. Người tự học những kiến thức về nhà nước trong cả cuộc đời mình.
Ba là phải có mối liên hệ mật thiết với nhân dân.
Hồ Chí Minh luôn luôn chủ trương xây dựng mối quan hệ bền chặt giữa đội ngũ cán bộ, công chức với nhân dân. Đội ngũ cán bộ, công chức là những người hưởng lương từ nguồn ngân sách nhà nước do dân đóng góp. Chính vì vậy, Hồ Chí Minh nhắc nhở mọi cán bộ, công chức không được lãng phí của công; phải sẵn sàng phục vụ nhân dân, luôn luôn nêu cao đạo đức cách mạng, sẵn sàng hy sinh quyền lợi cá nhân mình cho Tổ quốc, lấy phục vụ quyền lợi chính đáng của nhân dân làm mục tiêu cho hoạt động của mình. Đặc biệt, phải chống bệnh tham ô, lãng phí, quan liêu, phải luôn luôn gần dân, hiểu dân và vì dân. Cán bộ, công chức xa dân, quan liêu, hách dịch, cửa quyền... đối với nhân dân đều dẫn đến nguy cơ làm suy yếu Nhà nước, thậm chí làm biến chất Nhà nước vì đã vi phạm một điều có tính chất cốt yếu của cấu tạo quyền lực nhà nước là tất cả mọi quyền lực thuộc về nhân dân.
Bốn là, cán bộ, công chức phải là những người dám phụ trách, dám quyết đoán, dám chịu trách nhiệm, nhất là trong những tình huống khó khăn, "thắng không kiêu, bại không nản".
Đó là những người có ý thức sẵn sàng làm "công bộc", làm "đầy tớ", làm "trâu ngựa" cho dân, những người cần, kiệm, liêm, chính, chí công vô tư, làm việc với tinh thần đầy sáng tạo. Hồ Chí Minh đòi hỏi cán bộ. công chức phải luôn luôn tu dưỡng, rèn luyện đạo đức cách mạng luôn luôn "có chí tiến thủ", luôn luôn học tập để nâng cao trình độ về mọi mặt, học ở trường, học ở trong cuộc sống, trong công tác, học ở thầy, học ở bạn.
Năm là, phải thường xuyên tự phê bình và phê bình, luôn luôn có ý thức và hành động vì sự lớn mạnh, trong sạch của Nhà nước.
Với chức trách là những người phục vụ nhân dân, thì cán bộ, công chức phải tận tụy, tận trung với nước, tận hiếu với dân. Muốn vậy, theo Hồ Chí Minh cán bộ, công chức phải thường xuyên tự phê bình và phê bình để giữ vững phẩm chất đạo đức cách mạng và năng lực công tác. Đồng thời, cán bộ, công chức phải chăm lo xây dựng bộ máy nhà nước để nhà nước đúng là nhà nước của dân, do dân, vì dân.
Bộ máy nhà nước, theo quan điểm Hồ Chí Minh, cần gọn nhẹ, có hiệu lực, phù hơp với từng giai đoạn để phục vụ đắc lực cho mục tiêu hoạt động của Nhà nước, tất cả vì sự phát triển của đất nước, vì lợi ích của Tổ quốc, của nhân dân, không vì lợi ích của cá nhân nào. Chức vụ, quyền hạn của cán bộ, công chức trong bộ máy nhà nước là do dân tùy thác, ủy quyền để làm việc cho ích quốc lợi dân, không vì chủ nghĩa cá nhân.