Tháng 8 năm 1959, Chế Linh vào Sài Gòn làm việc cho một chủ người Hoa rất tốt bụng – ông chủ này đã giúp đỡ Chế Linh đi học và trả lương rất hậu cho Chế Linh giúp việc trong nhà như nấu ăn và coi con cho ông ta. Sau chín tháng làm việc, dành dụm được một số tiền, Chế Linh quyết định vào trường Bồ Ðề rồi sau đó là trường Nguyễn Công Trứ để tiếp tục việc học.
Cũng trong thời gian này, Ðoàn văn nghệ Biệt Chính Biên Hòa cần tuyển ca sĩ để theo đoàn đi hát trong các miệt làng xa tại Biên Hoà. Chế Linh tham dự và đoạt giải Nam Ca xuất sắc nhất. Hoàn toàn không nghĩ là mình sẽ theo nghề ca hát, nhưng Chế Linh đã theo đoàn này hát (cùng với Châu Kỳ, Trúc Phương) vì tiền lương rất lớn. Hai năm sau, đoàn văn nghệ tan rã, Chế Linh bắt đầu làm nghề tài xế chở xe đá tại Biên Hòa chung với Bằng Giang. Vừa làm việc, vừa luyện giọng và viết nhạc – tình yêu âm nhạc đã bắt đầu nảy nở trong Chế Linh. Nhiều bài hát nổi tiếng được ông cùng Bằng Giang sáng tác trong thời gian này như "Bài ca kỷ niệm", "Đêm buồn tỉnh lẻ", "Đoạn tái bút"... Năm 1964, Chế Linh hợp tác với công ty Continental ra đời dĩa nhạc đầu tay “Vùng Biển Trời Và Màu Áo Em” và sau đó ký hợp đồng công ty Dĩa Hát Việt Nam.
Năm 2011, ông tổ chức liveshow 30 năm tái ngộ tại Hà Nội.
