ประสิทธิ์ ชำนาญไพร เริ่มชีวิตนักดนตรีจากการเล่นแตรวงของโรงเรียนอินทรบำรุงมาก่อน หลังจากนั้นเข้ากรุงเทพฯ มาเรียนเพาะช่างและต่อมหาวิทยาลัยศิลปากรแต่ไม่จบ จนกระทั่งไปทำงานที่กรมสรรพากรและได้ร่วมกับ ณรงค์ ปานเจริญ ทำวงดนตรี ชื่อ ซิลเวอร์แซนด์ ได้แชมป์การประกวดวงดนตรี ครั้งแรกในประเทศไทย เมื่อปี 2507
ควบสามตำแหน่งองค์กรดนตรี ปี 2534 ได้รับความไว้วางใจจากสามหน่วยงานดนตรี คือ ขณะที่เป็นนายกสมาคมนักแต่งเพลง ก็ได้รับเลือกให้เป็นประธานสโมสรนักดนตรีอาชีพ และนายกสมาคมดนตรีแห่งประเทศไทยในพระบรมราชูปถัมถ์ ซึ่ง อ.ประสิทธิ์ได้ตัดสินใจเลือกตำแหน่งที่สามเพียงตำแหน่งเดียว จึงนับเป็นประวัติศาสตร์วงการเพลงไทยได้ว่า เป็นเพียงผู้เดียวที่ควบตำแหน่งทางด้านเพลงและดนตรีถึงสามแห่งในเวลาเดียวกัน เรียบเรียงเสียงประสานถวายสมเด็จพระเทพฯ นับเป็นความภาคภูมิใจสูงสุดเมื่อ อ.ประสิทธิ์ได้เป็นประธานดำเนินงาน โครงการบทเพลงพระราชนิพนธ์ ใน สมเด็จพระเทพรัตนราชสุดาฯ สยามบรมราชกุมารี โดยได้แต่งทำนองเพลงถวายจากบทพระราชนิพนธ์ "แดร็กคูล่า ผู้น่ารัก" กับได้เรียบเรียงเสียงประสานถวายในเพลงพระราชนิพนธ์ "ทะเลหนาว" เรียบเรียงฯ เพลงลูกทุ่ง-ลูกกรุง อ.ประสิทธิ์ เรียบเรียงเสียงประสานเพลงมากว่า 5,000 เพลง
เมื่อรวมเพลงทั้งหมดที่ อ.ประสิทธิ์ แต่งมีจำนวนกว่า 2,000 เพลง และเพลงประกอบอีกนับร้อยเช่น เพลงประกอบสถานีโทรทัศน์ที่คุ้นหูกันมานาน ที่มีคำว่า ช่อง 7 สีทีวีเพื่อคุณ กับ 7 สีคอนเสิร์ต และโฆษณาสินค้า วางใจเมื่อใช้เชลล์ ฯลฯ และได้แต่งเพลงในองค์กรต่างๆ อาทิ เพลงมาร์ชศาลแพ่ง มาร์ชทรัพย์สินทางปัญญา เพลงร้อยปีกรรณสูตศึกษาลัย และเพลงประจำสถานีวิทยุคลื่นลูกทุ่งเอฟเอ็ม
นอกจากนี้ยังเป็นผู้ริเริ่มการประกวดดนตรีไทย "โค้ก มิวสิคอะวอร์ด" และเคยเป็นบรรณาธิการข่าวหน้าบันเทิงหนังสือพิมพ์หลายฉบับ เกิยรติยศทางสังคม อ.ประสิทธิ์ เคยดำรงตำแหน่งที่ปรึกษาฝ่ายสวัสดิการสังคมศิลปวัฒนธรรม ยุค พลตรีจำลอง ศรีเมือง เป็นผู้ว่ากทม., ที่ปรึกษาฝ่ายการเมือง รมต. สุเทพ อัตถากร รมต.ว่าการทบวงมหาวิทยาลัย, ประธานคัดเลือกผลงานสร้างสรรค์เพื่อเยาวชนของสำนักงานเยาวชนแห่งชาติ และคณะอนุกรรมการคัดเลือกผู้มีผลงานดีเด่นทางด้านศิลปะ วัฒนธรรมของสำนักงานคณะกรรมการวัฒนธรรมแห่งชาติ และได้เป็นประธานตัดสินรางวัลพระพิฆเนศทองพระราชทาน 2 ปีซ้อน จนกระทั่งได้รับปริญญาครุศาสตร์บัณฑิตกิตติมศักดิ์ สาขาวิชาดนตรีศึกษา จากสถาบันราชภัฏมหาสารคาม เมื่อวันที่ 12 กุมภาพันธ์ 2541
อาชีพสุดท้ายก่อนจะเกิดอุบัติเหตุ และนอนรักษาตัวจนลื่นล้มเสียชีวิต คือ เปิดห้องบันทึกเสียง เอ สตูดิโอ และสอนร้องเพลง-แต่งเพลง โดยเป็นประธานศูนย์อนุรักษ์และสร้างสรรค์เพลงไทย ภายใต้ชื่อ "ธนาคารเพลง" อ.ประสิทธิ์ ชำนาญไพร ถึงแก่กรรมเมื่อวันที่ 1 เมษายน ที่ผ่านมา เพราะลื่นหกล้ม ก่อนหน้านั้นป่วยรักษาตัวจากอุบัติเหตุทางรถยนต์มานานกว่าหนึ่งปี
