Hoàng Trọng tên thật là Hoàng Trung Trọng, sinh năm 1922 tại Hải Dương. Năm 1927 gia đình ông chuyển về sống tại Nam Định.
Hoàng Trọng bắt đầu học nhạc từ năm 1933 qua người anh trai là Hoàng Trung Quý. Từ năm 1937, Hoàng Trọng học nhạc tại trường Thầy Dòng Saint Thomas Nam Định. Đến năm 1941, ông tiếp tục nghiên cứu âm nhạc qua sách vở và học hàm thụ từ một trường ở Paris. Cũng thời gian ở Nam Định, khoảng 1940 Hoàng Trọng có mở một lớp dạy nhạc.
Năm 15 tuổi, Hoàng Trọng cùng các anh em trong gia đình Hoàng Trung An, Hoàng Trung Vinh và một số bạn bè như Đan Thọ, Đặng Thế Phong, Bùi Công Kỳ... lập một ban nhạc. Ban đầu ban nhạc không có tên và gần như chỉ để giải trí. Năm 1945 Hoàng Trọng mở phòng trà Thiên Thai ở Thái Bình, và bạn nhạc từ ấy mang tên Thiên Thai. Thiên Thai trình diễn ở đó mỗi tối và hoạt động tới năm 1946, khi chiến tranh Việt - Pháp bùng nổ.
Cuối thập niên 1930, tân nhạc Việt Nam bắt đầu hình thành, Hoàng Trọng cũng có sáng tác đầu tay Đêm trăng được viết năm 1938, khi ông mới 16 tuổi. Một số bản nhạc tiếp theo của ông đã được Phạm Duy trình bày trên sân khấu của gánh hát Đức Huy, trong đó có Tiếng đàn tôi, một trong những bản Tango đầu tiên của Việt Nam. Một bản nhạc tiền chiến nổi tiếng khác của Hoàng Trọng thời gian đó là Một thuở yêu đàn.
Vì chiến tranh, ông di chuyển khỏi Nam Định, qua phủ Nho Quan, Phát Diệm và cuối cùng định cư tại Hà Nội năm 1947. Thời gian đó ông đã viết bản Phút chia ly, một nhạc phẩm tango giá trị, do Nguyễn Túc đặt lời. Cũng trong khoảng thời gian ở Hà Nội, Hoàng Trọng liên hệ với những nghệ sĩ của đài phát thanh như Mộc Lan, Minh Diệu, Mạnh Phát, Châu Kỳ... nhờ đó các nhạc phẩm của ông được phổ biến. Hoàng Trọng cũng viết cuốn Tự học Hạ Uy cầm, tích lũy từ những kinh nghiệm dạy đàn trước đó, và được nhà xuất bản Thế Giới phát hành.
Năm 1950, nhạc sĩ Hoàng Trọng gia nhập quân đội. Ông là trưởng ban Quân nhạc Bảo Chính Đoàn trình diễn mỗi tuần tại một vườn hoa cạnh Bưu Điện Hà Nội (vườn hoa Indra Gandi?) và trong chương trình Tiếng nói Bảo Chính Đoãn của đài phát thanh Hà Nội. Khoảng thời gian này, ông viết nhiều bài hát, trong đó có Gió mùa xuân tới. Năm 1953 tên tuổi Hoàng Trọng thực sự nổi tiếng với Nhạc sầu tương tư, ca khúc đó được trình diễn thường xuyên trên đài phát thanh khi ấy. Năm đó ông còn viết một bản tango khác là Dừng bước giang hồ.
Năm 1954, Hoàng Trọng di cư vào miền Nam, sống trong hoàn cảnh gà trống nuôi 3 con: Hoàng Nhạc Đô, Hoàng Cung Fa, Hoàng Bạch La. Tại Sài Gòn, ông thành lập những ban nhạc trình diễn trên đài phát thanh Sài Gòn, đài Quân Đội, đài Tiếng Nói Tự Do và đài Truyền hình Việt Nam. Những ban nhạc của ông hoạt động đến tận 1975, từng mang nhiều tên khác nhau như Hoàng Trọng, Tây Hồ, Đất Nước Mến Yêu... đặc biệt từ năm 1967 với tên Tiếng Tơ Đồng. Ban hợp xướng Tiếng Tơ Đồng, với các ca sĩ, nhạc sĩ danh tiếng của Sài Gòn khi đó, đã trình bày nhiều ca khúc tiền chiến giá trị.
Khoảng thời gian ở Sài Gòn, Hoàng Trọng sáng tác rất mạnh mẽ, nhiều ca khúc nổi tiếng như Ngàn thu áo tím, Lạnh lùng, Bạn lòng, Mộng lành, Tiễn bước sang ngang, Ngỡ ngàng... Trong khoảng 200 nhạc phẩm của Hoàng Trọng, ông chỉ tự đặt lời khoảng 40 bài. Số còn lại được sự giúp đỡ của nhiều nhạc sĩ khác như Hồ Đình Phương, Hoàng Dương, Nguyễn Túc, Quách Đàm, Vĩnh Phúc... Trong giới nhạc sĩ Việt Nam, Hoàng Trọng viết tango nhiều và được xem như người thành công nhất với danh hiệu Vua Tango.
Ông cũng tham gia viết nhạc phim, một vài phim có tiếng như Xin nhận nơi này làm quê hương, Giã từ bóng tối, Người tình không chân dung, Sau giờ giới nghiêm, Bão tình. Với nhạc trong bộ phim Triệu phú bất đắc dĩ, Hoàng Trọng đã được giải thưởng Văn học Nghệ thuật của Việt Nam Cộng hòa trong năm 1972 - 1973.
Sau 1975, Hoàng Trọng chỉ sáng tác một vài ca khúc và không phổ biến. Bản cuối cùng của ông là Chiều rơi đó em. Năm 1992 Hoàng Trọng sang định cư tại Hoa Kỳ và qua đời ngày 16 tháng 7 năm 1998.