محمدجعفر محجوب در سال ۱۳۰۳ در تهران متولد شد.تحصیلات دبستانی و دبیرستانی خود را در همان شهر به پایان رساند. او کار خود را با تندنویسی در مجلس شورای ملی در ۱۳۲۳ آغاز کرد. 

در کتاب «نادره‌کاران: سوگنامۀ ناموران فرهنگی و ادبی (۱۳۰۴-۱۳۸۹)» ایرج افشار درباره این بخش از زندگی او آمده است: «او دانشمندی ادیب بود. صاحب ذوق والای ادبی بود. شعرشناس بود. پژوهشگر دانشگاهی در رشتۀ فرهنگ عامه بود. خوش‌حافظه و خوش‌سلیقه در شعرخوانی بود. آگاه کم‌رقیبی در زمینۀ ادبیات داستانی و حماسی و پیشینۀ آنها بود. تندنویس و بسیارنویس بود.
دوستی با او سال‌هایی پیش آمد که در مجلس تندنویس بود و اوقات فراغت را در کتابخانۀ مجلس به مطالعۀ جراید قدیم و کتاب‌های ادبی می‌پرداخت. در آن زمان از جوانان روزنامه‌نویس و نویسندگان تند و تیز بود. گرایشی تام و تمام به جریان‌های چپ داشت. ولی نسبتاً زود دریافت که راه تحقیق و تجسّس علمی با های و هو و هیاهوی سیاسی سازگاری ندارد. وادی سیاست جز تیه ضلالت و گرفتاری نیست. پس دل به بحث و درس دانشگاهی بست و دانست که درک محضر استادانی مانند بهار و نفیسی و پورداود و اقبال و همایی و فروزانفر و مدرس رضوی و خطیبی و خانلری و معین و صفا، شرفی و کششی دارد که کوشش‌های اجتماعی و هیجانی روز از آن عاری است. چون این راه را به استواری دنبال کرد، خود به مقام استادی رسید و جوهر دانایی خود را نیک عرضه کرد.
در آغاز جوانی دورۀ شاهنامه‌خوانی با او داشتیم. یادش به خیر باد که مرحوم مرتضی کیوان آن را اساس گذاشت. محجوب معمولاً شاهنامه می‌خواند و با سابقه‌ای که از سخنوری و نقّالی زورخانه‌ها داشت اشعار را بسیار گیرا ادا می‌کرد، دوستان از طرز خواندن او لذت می‌بردند.
وقتی جمالزاده موادّ فرهنگ عامیانۀ خود را به من سپرد که چاپ کنم چون آن کتاب محتاج به بررسی و تنظیم دقیق داشت، این کارِ گران را از محجوب درخواست کردم‌. او با دو سه سال کار توانست کتاب را آراسته کند.»

 محجوب لیسانس علوم سیاسی خود را در سال ۱۳۲۶ از دانشکدهٔ حقوق و لیسانس رشته‌ی زبان و ادبیات فارسی را در سال ۱۳۳۳ از دانشکده ادبیات دانشگاه تهران دریافت کرد.  در سال ۱۳۴۲ توانست دکترای زبان و ادبیات فارسی را از دانشگاه تهران دریافت کند و از سال ۱۳۳۶ و پس از آن سمت‌های مدرس، دانشیار و استاد زبان و ادب فارسی را در دانشگاه تربیت معلم و دانشگاه تهران به عهده داشت.

او از سال ۱۳۵۰ تا ۵۵ را به عنوان استاد میهمان در دانشگاه‌های آکسفورد و استراسبورگ به تدریس زبان و ادبیات فارسی پرداخت. محجوب همچنین ۲۳ سال عضو انجمن ایرانی فلسفه و علوم انسانی (وابسته به یونسکو) بود. و مدت کوتاهی نیز سرپرستی فرهنگستان زبان و فرهنگستان ادب و هنر ایران را به عهده گرفت.  او دو دوره در سال‌های ۱۳۵۳ تا ۱۳۵۵ و ۱۳۶۱ تا ۶۳ در دانشگاه استراسبورگ فرانسه به آموزش زبان و ادبیات فارسی پرداخت. محجوب از سال ۱۳۵۸ تا ۱۳۵۹ ریاست فرهنگستان زبان و فرهنگستان ادب و هنر ایران را به عهده داشت و از سال ۱۳۷۰ تا هنگام مرگش در ۱۳۷۴ در دانشگاه برکلی در کالیفرنیا به تدریس ادبیات فارسی مشغول بود.

در کتاب «ای زبان پارسی...» به کوشش دکتر میلاد عظیمی به نقل از محمدجعفر محجوب با عنوان «معیار آموزش زبان و ادب فارسی در دانشگاه‌» آمده است: «چون کار دانشگاه‌ها علاوه بر آموختن اصول و مطالب متقن و ثابت‌شده و کلاسیک علمی و ادبی به شاگردان، تحقیق و یافتن راه‌های تازه و گشودن چشم‌اندازهای جدید در برابر آدمیان و اکتشاف و اختراع و ترقی دادن علم و ادب نیز هست (و در حقیقت وظیفۀ اساسی هر دانشگاه همین کشف و تحقیق و ابداع و اختراع است نه تکرار معلومات گذشتگان، که آن فقط مقدمه‌ای برای کار دوم است) درنتیجه آشنا ساختن دانشجویان با آخرین تحول‌های ادبی ایران و جهان و تربیت دانشجویان برای افزودن بر میراث علمی و ادبی ملت ما از وظایف اساسی ایشان است. بنابراین گذاشتن رشتۀ ادب فارسی و رشته‌های نزدیک بدان در جریان آخرین تحولات اوضاع ادبی ایران و جهان برای پرورش استعدادهایی که در آینده باید پاسداران زبان و ادب فارسی باشند یا آثاری شایستۀ عرضه کردن در بازار جهانی هنر و ادب پدید آورند، نهایت لزوم را دارد.
می‌بایست مراکز علمی و فرهنگی ایران، بوعلی و بوریحان و حافظ و سعدی و بیهقی و ابوالمعالی و فردوسی و نظامی امروز یعنی فرزندان خلف و نواده‌های شایستۀ آن بزرگان را در دامان خویش بپرورند و ادب و فرهنگ فارسی را از رکود و انحطاطی که از قرن هشتم به بعد دامنگیر آن شده است بیرون آورند و جانی تازه در این کالبد بی‌رمق که روزی درخشندگی آن چشم جهانیان را خیره می‌ساخت، و شعر شاعرش در روزگار سفر با کجاوه و پالکی و نقل خبر به‌وسیلۀ کبوتر نامه‌بر در دوران حیات او تا حد شام و چین و به اقصای روم و ری می‌رفت، بدهند و ادبی نو و جاودان، عاری از شائبۀ تقلید و نقص پوسیدگی و انحطاط، ادب ایران امروز، ادب کشوری که از خواب گران چندصدساله بیدار شده و آهنگ آن کرده است که یک‌شبه ره یک‌ساله را بپیماید، پدید آورند.
باید جنبید. باید همت کرد و مانع تلف شدن استعدادها و هرز رفتن نیروهای خلاق هنری جوانان شد. دانشجویان ما، هم در ایران و هم در خارج در تمام زمینه‌ها استعداد و توانایی خویش را به اثبات رسانیده‌اند و کوچک‌ترین دلیل یا قرینه‌ای وجود ندارد که برای ما در راه جستن به مراحل عالی ترقی ادبی و هنری و توفیق یافتن در خلق آثاری جاویدان در سطح جهانی، آثاری هم‌پایۀ شاهنامه و مثنوی و دیوان حافظ و گلستان سعدی بر مبنای زندگی و مقتضیات و اوضاع و احوال اخلاقی و اجتماعی و اقتصادی امروز ایجاد تردید کند.»

از مجموعه درس‌های دکتر محجوب که در سال ۱۳۶۷ به بعد ضبط شده است، شرح و تفسیر برخی از غزلیات حافظ، شرحی درباره مثنوی مولانا، نظامی گنجه‌ای، شاهنامه فردوسی و باب دوم سعدی از سوی انتشارات ماهور در قالب سی دی به بازار عرضه شد.

 او در زمان حیات برخی از متون کهن را تصحیح کرده و تالیفات باارزشی مانند «برگزیده غزلیات شمس تبریزی»، «دیوان قاآنی شیرازی»، «دیوان سروش اصفهانی»، «ویس و رامین» فخرالدین اسعد گرگانی، «کلیات ایرج میرزا»، «متن کامل امیر ارسلان»، «سبک خراسانی در شعر فارسی»، «فرهنگ لغات و اصطلاحات عامیانه» (با همکاری محمدعلی جمال‌زاده) و «تصحیح کلیات عبید زاکانی» را به انجام رساند. برخی از مقالات وی درباره فرهنگ‌عامیانه در کتابی حجیم و دوجلدی از سوی نشر چشمه به بازار کتاب عرضه شد. آخرین اثر استاد محجوب کتاب «آفرین فردوسی» بود که در سال ۱۳۷۱ در تهران منتشر شد.

دکتر محمدجعفر محجوب در ۲۷ بهمن ۱۳۷۴ در ۷۱ سالگی در کالیفرنیا درگذشت.