রাব্বানী ১৯৭০ সালে ঢাকা বিশ্ববিদ্যালয়ের পদার্থবিজ্ঞান বিভাগ থেকে বিএসসি ডিগ্রি লাভ করেন। ১৯৭২ সালে পাকিস্তানের ইসলামাবাদ বিশ্ববিদ্যালয় থেকে পদার্থবিজ্ঞানে এমএসসি ডিগ্রি অর্জন করেন। তিনি কমনওয়েলথ বৃত্তি নিয়ে ইউনিভার্সিটি অব সাউথহ্যাম্পটন এ পড়তে যান এবং ১৯৭৮ সালে মাইক্রোইলেক্ট্রনিক্সে পিএইচডি ডিগ্রি অর্জন করেন। ১৯৭৮ সালে ঢাকা বিশ্ববিদ্যালয়ের পদার্থবিজ্ঞান বিভাগে সহকারী অধ্যাপক হিসেবে যোগদান করেন। ১৯৮৫ সালে সহযোগী অধ্যাপক এবং ১৯৮৮ সালে পূর্ণ অধ্যাপক পদে উন্নীত হন। ২০০৬ থেকে ২০০৭ সাল পর্যন্ত ইসলামিক ইউনিভার্সিটি অব টেকনোলজিতে ভিজিটিং অধ্যাপক হিসেবে কাজ করেন। ২০০৮ সালে বায়োমেডিকেল ফিজিক্স অ্যান্ড টেকনোলজি বিভাগ প্রতিষ্ঠা করেন