وی در سال ۱۲۹۱ در تهران به دنیا آمد. مادرش عذرا و پدرش موسی معروفی، از شاگردان برگزیده درویش خان و از موسیقی‌دانان بزرگ دوره خود بود. پنج سال داشت که خواهرش، نرگس به دنیا آمد. چند سال بعد در همان دوره کودکی مادرش را از دست داد و در خانواده پدری بزرگ شد. در ۱۸ سالگی با شمس الزمان ازدواج کرد. حاصل این ازدواج چهار فرزند بود: منوچهر، شکوه الزمان (گیتی)، ژیلا و فرهاد. او در طول عمر خود سعی در آشتی دادن موسیقی سنتی و غربی داشت. وی در بامداد روز سه شنبه، ۱۶ آذر ۱۳۷۲ در تهران درگذشت و پیکر او در آرامگاه فرهیختگان ادب و هنر بهشت زهرا (مقبره شماره ٩۵٣) به خاک سپرده شده‌است.

آموزش موسیقی را نزد پدر آغاز کرد؛ تار می‌نواخت و با نواختن ویولن نیز آشنا شد. بعد از دوره ابتدایی، در ۱۴ سالگی و در دوره‌ای که کلنل وزیری مدیر هنرستان ملی موسیقی بود، به تحصیل در آن جا مشغول شد. به پیانو روی آورد و نزد خانم تاتیانا خاراتیان به یادگیری تکنیک نوازندگی پیانو کلاسیک مشغول شد. اتودها و پرلودهای فردریک شوپن، سونات‌های ولفگانگ آمادئوس موتسارت، لودویگ ون بتهوون، فرانتس شوبرت و فوگ‌های باخ را با مهارت می‌نواخت. در کنار موسیقی کلاسیک، موسیقی ایرانی را هم ادامه داد و تحصیلات موسیقی را نزد علینقی وزیری کامل کرد.

در ۲۱ سالگی، در ۱۳۱۲، به دلیل استعداد شگرفش در موسیقی به استخدام وزارت فرهنگ و هنر وقت درآمد و معلم موسیقی مدارس تهران شد و به آموزش سلفژ و دیکته موسیقی در هنرستان پرداخت. از ۱۳۱۹، هم‌زمان با افتتاح رادیو به این مؤسسه پیوست و سال‌ها تک نواز پیانو بود. از ۱۳۳۲ به سرپرستی موسیقی رادیو منصوب شد و هم‌زمان با آن به عضویت شورای عالی موسیقی درآمد. معروفی همچنین رهبر ارکستر شماره یک و رهبر ارکستر گل‌ها بود. او تنظیم‌کننده آهنگ‌های علی اکبر شیدا، عارف قزوینی، رکن‌الدین مختاری و درویش خان و بسیاری دیگر از آهنگسازان معروف ایرانی بوده‌است.

۲۲ دیماه سال ۱۳۷۳ انجمن موسیقی ایران اولین بزرگداشت جواد معروفی را در تالار وحدت برگزار کرد. در این بزرگداشت بهمن بوستان پیرامون زندگی و آثار استاد سخنرانی کرد و ساسان محبی و افلیا پرتو قطعاتی از جواد معروفی را نواختند.۷ آبان ۱۳۸۳ دومین بزرگداشت جواد معروفی در کنسرت هاوس وین برگزار شد. در این بزرگداشت قطعاتی از ساسان محبی و فردریک بوبر که با الهام از موسیقی جواد معروفی ساخته شده بود توسط ارکستر دانشگاه موسیقی وین به رهبری نصیر حیدریان اجرا شد. به مناسبت بزرگداشت ۱۰۰ امین سال تولد جواد معروفی پویان آزاده یکی از جوان‌ترین نوازندگان از نسل سوم شاگردان او در هامبورگ آلمان برنامه‌ای را در بزرگداشت استاد خود به اجرا درآورد.