Das Ende des Ersten Weltkrieges erlebte Schärf, der an der Italienfront verwundet worden war, auf Heimaturlaub in Wien. Durch Vermittlung von Otto Glöckel, den er durch seine Frau kennen gelernt hatte, wurde der junge Jurist Sekretär bei Karl Seitz, dem damaligen Vizepräsidenten des Abgeordnetenhauses, und später Sekretär der sozialdemokratischen Parlamentsfraktion. Damit begann seine eigentliche politische Laufbahn.

Schärf arbeitete am Agrarprogramm der Partei mit, betätigte sich publizistisch ("Sozialdemokratie und Landvolk") und entwickelte Vorstellungen zur Verbreiterung des sozialdemokratischen Wählerspektrums über den Kreis der Arbeiterschaft hinaus. 1933 erhielt er als Bundesrat sein erstes öffentliches Mandat, nach dem 12. Februar 1934 war er drei Monate im Anhaltlager Wöllersdorf in Haft. Von 1936 bis 1945 betrieb er eine eigene Rechtsanwaltskanzlei. Das NS-Regime steckte ihn zweimal in den Kerker: im März 1938 für 15 Tage, im Juli 1944 für fünf Wochen.

Im sozialdemokratischen Untergrund war Adolf Schärf nicht tätig. Wohl aber hielt er Kontakt zu den alten Mandataren und Funktionären und knüpfte gegen Kriegsende Beziehungen zu den ÖVP-Politikern Hurdes, Heinl und Kunschak.

Zwölf Jahre Vizekanzler

Von 1945 bis 1957 war Adolf Schärf Vizekanzler und Vorsitzender der SPÖ. In diesen Jahren, die durch eine mühsame Aufbauarbeit gekennzeichnet waren, gab es kaum eine wichtige (staats-)politische Entscheidung, auf die er nicht bestimmend-sachkundigen Einfluss genommen hätte. Er selbst bezeichnete die Lösung der Verfassungsfrage im Jahr 1945, die Durchsetzung des ersten Verstaatlichungsgesetzes 1946 und seine Mitwirkung beim Zustandekommen des Allgemeinen Sozialversicherungsgesetzes (ASVG) als seine größten Verdienste, auf die er stolz war. Schärf spielte aber auch bei den Verhandlungen, die zum Abschluss des Staatsvertrages führten, eine wichtige Rolle. Bei den Gesprächen mit der sowjetischen Staats-und Parteiführung drängte er auf eine präzise Lösung in der Frage der Erdöllieferungen und eine genaue inhaltliche Definition der Neutralität, die keinen Spielraum für Auffassungsunterschiede offen ließ. Präzises Formulieren und stichhaltiges Argumentieren waren Adolf Schärfs Stärken. Sie zeichneten auch seine Reden aus. Mitreißend war seine Rhetorik allerdings nicht.

Nach dem Tod Theodor Körners nominierte die SPÖ ihren Vorsitzenden als Kandidaten für das Amt des Bundespräsidenten. Im Wahlkampf gegen seinen Mitbewerber, den parteilosen Chirurgen Wolfgang Denk, der von der ÖVP und der FPÖ unterstützt wurde, präsentierte sich Schärf den Österreichern nicht als trockener, humorloser Jurist, sondern als freundlicher, gütiger alter Herr, der ihre Sorgen ernst nahm.

Adolf Schärf erhielt schon im ersten Wahlgang die nötige absolute Mehrheit der Stimmen und zog in die Hofburg ein.

In der neuen politischen Funktion, in die er nach seiner ersten Amtszeit wiedergewählt wurde, fühlte er sich, zumindest vorerst, keineswegs glücklich. Nach dem Tod seiner Frau war er einsam. Das häusliche Glück, das er vermisste, fand er an Abenden und an Wochenenden in der Familie seiner Tochter, die den Chirurgen Dr. Kyrle geheiratet hatte (Schärfs Sohn war im 2.Weltkrieg gefallen).

Der Bundespräsident behielt übrigens seine Wohnung in der Josefstadt und begab sich jeden Morgen, wenn es das Protokoll zuließ, zu Fuß in die Präsidentschaftskanzlei.

Adolf Schärf nahm in den acht Jahren seiner Präsidentschaft (1957-65) gewissenhaft seine Repräsentationspflichten wahr, unternahm Reisen in das Ausland und fungierte beim Gipfeltreffen des amerikanischen Präsidenten John F.Kennedy mit dem sowjetischen Staatschef Nikita Chruschtschow als höflicher, diplomatisch versierter Gastgeber.

Am Amtsverständnis seiner Vorgänger hielt er fest. Er verkörperte die Würde eines Staatsoberhauptes.

Von Krisen überschattet

Die beiden letzten Jahre seiner Amtszeit wurden innenpolitisch von der Habsburg-Krise (1963) und der Olah-Krise (1964) überschattet, die den auf Konsens bedachten Bundespräsidenten tief betrübten.

Der Baumeister der Zweiten Republik und hofrätliche Staatsmann Adolf Schärf schied am 28. Februar 1965 als amtierender Bundespräsident nach kurzer Krankheit aus dem Leben.