Promoviert hat Rupert Scholz im Jahre 1966. Vier Jahre später folgte seine Habilitation. Seit 2005 ist er als Of Counsel für Gleiss Lutz tätig. Ab 1972 war Rupert Scholz Professor für Öffentliches Recht, zunächst an der Freien Universität Berlin. Seit 1978 hat er einen Lehrstuhl für Öffentliches Recht, insbesondere Verwaltungslehre und Finanzrecht an der Universität München. Er emeritierte im Oktober 2005. Von 1981-1988 war er Senator in Berlin für Justiz, Bundes- und Europaangelegenheiten. Für ein Jahr war er Bundesminister der Verteidigung und von 1990–2002 Mitglied des Deutschen Bundestages. Dort war er von 1998–2002 Vorsitzender des Rechtsausschusses des Deutschen Bundestages.

Er ist sowohl Mitglied bei diversen juristischen und wirtschaftlichen Vereinigungen, Stiftungen als auch in Beiräten und Aufsichtsräten.

Rupert Scholz spricht Deutsch und Englisch.