او در سال ۱۹۷۶ برای نخستین بار به تیم ملی آلمان فراخوانده شد و نخستین بازی ملی خود را در مقابل تیم ملی ولز انجام داد. از آن پس پیشرفت ورزشی رومنیگه و تبدیل او به یک ستاره بین‌المللی فوتبال آغاز شد. وی در سال ۱۹۷۸ با تیم ملی فوتبال آلمان در مسابقات جام جهانی در آرژانتین ناکام ماند اما ۲ سال بعد با همین تیم به مقام قهرمانی ملت‌های اروپا دست یافت.
رومنیگه در سال‌های ۱۹۸۰ و ۱۹۸۱ دو بار پی درپی عنوان بهترین بازیکن اروپا را به دست آورد و توپ طلایی مجله ورزشی «فرانتس فوتبال» را از آن خود ساخت. در مسابقات جام جهانی فوتبال سال ۱۹۸۲ در اسپانیا، تیم ملی آلمان با رومنیگه بازی‌های موفقی به نمایش گذاشت و تا بازی نهایی رسید اما این تیم در دیدار نهایی با شکست ۳ بر یک در مقابل تیم ملی فوتبال ایتالیا به مقام نایب قهرمانی جهان بسنده کرد. در آن سال همه انتظار داشتند که رومنیگه ستاره بی چون و چرای مسابقات گردد اما یک گلزن استثنایی و خوش اشتهای ایتالیایی به نام «پائولو روسی» رومنیگه را در سایه قرار داد. ۴ سال بعد، تیم ملی فوتبال آلمان به همراه رومنیگه رقابت‌های جام جهانی در مکزیک، بار دیگر در دیدار نهایی ناکام ماند. این بار حریف این تیم در بازی نهایی، تیم ملی فوتبال آرژانتین بود که با درخشش ستاره استثنایی خود «دیگو آرماندو مارادونا» با نتیجه ۳ بر ۲ سرنوشت بازی را به نفع خود رقم زد تا رومنیگه بار دیگر از کسب عنوان قهرمانی جهان محروم شود. وی این بار نیز در سایه درخشش مارادونا رنگ باخت.
رومنیگه روی هم ۹۵ بازی برای تیم ملی فوتبال آلمان انجام داد و ۴۵ گل برای این تیم به ثمر رسانید. وی ۵۱ بار به عنوان کاپیتان این تیم پای به میدان گذاشت