Khang Huy sinh năm 1971 tại tỉnh Hà Bắc (Trung Quốc). Cha ông là Khang Chí Cường, một nhân viên ngành bưu chính viễn thông, còn mẹ là giáo viên. Gia đình không khá giả nhưng luôn đặt việc học lên hàng đầu.
Từ nhỏ, Khang Huy đã đặc biệt yêu thích phát thanh nên thường nghe đài, bắt chước giọng các phát thanh viên và tự luyện đọc mỗi ngày. Khi lên trung học, nam sinh khi ấy xác định mục tiêu thi vào Học viện Phát thanh Bắc Kinh (nay là Đại học Truyền thông Trung Quốc) - ngôi trường hàng đầu về đào tạo phát thanh, truyền hình.
