১৯৩৬ সালে কলকাতায় অল বেঙ্গল মিউজিক প্রতিযোগিতায় যে সুদর্শন যুবকটি ঠুংরীও গজলে প্রথম স্থান অধিকার করে কলকাতার সংগীত মহলে পরিচিত লাভ করেছিলেন তিনি আবদুল আহাদ। আবদুল আহাদ তখন কলকাতা সিটি কলেজের ছাত্র এবং ওস্তাদ মঞ্জু খাঁ সাহেবের কাছে উচ্চাঙ্গসংগীতের তালিম নিচ্ছিলেন।
আবদুল আহাদের জন্ম ১৯১৮ সালের রাজশাহীতে। পিতা আবদুস সামাদ। খাঁ স্কুল পরিদর্শক ছিলেন। মা হাসিনা খাতুন লেখাপড়া জানতেন। আবদুল আহাদরা ছয় ভাইবোন। ভাইবোনদের মধ্যে তিনি জ্যেষ্ঠ, তার পরের দুই বোন মোহসিনা খানম ও হামিদা খানম। এঁদের পর এক ভাই আবদুল ওহায়েদ খাঁ ও দুই বোন মমতাজ খানম ও সাঈদা খানম। আবদুল আহাদের আদি নিবাস ফরিদপুর জেলায়, কিন্তু তারা স্থায়ীভাবে বসবাস করতেন পাবনায়। আবদুল আহাদের দাদা হাজী মহসিন উদ্দীন খাঁ যখন মারা যান তখন তার পিতা স্কুলের ছাত্র। দাদি মারা যান আবদুল আহাদের জন্মের পূর্বে। আবদুল আহাদের শৈশব-কৈশোরের অধিকাংশ সময় কেটেছে পাবনায় নানার বাড়িতে। নানা খান বাহাদুর মুহম্মদ সোলায়মান সাহেবের বাড়িতে শিক্ষা-সংস্কৃতির পরিবেশ ছিল। সেই পরিবেশে আবদুল আহাদ বড় হয়ে ওঠেন খালা কবি মাহমুদা খাতুন সিদ্দিকার
আদর যত্নে। মাতৃতুল্য খালার কাছে গান শুনতে শুনতে তাঁর শৈশব কেটেছে। মামা বজলে কাদের সিদ্দীকী সংগীতানুরাগী ছিলেন।