Zur Emigration wurde Arndt gezwungen, nachdem er bei einer von Nazi-Akklamationen begleiteten Theateraufführung von Schillers "Wallenstein" seine mangelnde Begeisterung über die braune Kundgebung gegenüber den anderen Schauspielern gezeigt hatte. Einer von ihnen denunzierte ihn, Tage später wurde Arndt von SA-Männern aus der Theatergarderobe hinausgeprügelt. Die durch Mittelsmänner organisierte und höchst abenteuerlich verlaufene Flucht führte ihn schließlich über Luxemburg und Frankreich zunächst nach Uruguay und später nach Argentinien.

Dort war er u.a. bei der von Emigranten in Buenos Aires gegründeten "Freien Deutschen Bühne", die vor allem auch vom Nationalsozialismus verfemte Autoren auf dem Spielplan hatte, als Schauspieler und Regisseur aktiv. Die Exilanten-Initiative zeichnete 1944 auch für die Uraufführung von Franz Werfels Stück "Jacobowsky und der Oberst" verantwortlich, mit Arndt in der Rolle des Oberst Stjerbinsky.

Im Jahr 1997 stieß die damalige Josefstadt-Dramaturgin Isabella Suppanz bei Recherchen zum Drama auf die Geschichte der "Freien Deutschen Bühne", woraufhin Arndt über Vermittlung des Jewish Welcome Service zur Aufführung des Stücks (unter der Regie von Helmut Lohner und mit Otto Schenk als Jacobowsky) eingeladen wurde. Trotz der berührenden Begegnung sah sich der damals bereits 83-Jährige nicht mehr in der Lage, für Theaterarbeiten in Wien zur Verfügung zu stehen. Eine Rückkehr in seine alte Heimat stand für Arndt, wie er einmal in einem Interview bekannte, nie ernsthaft zur Diskussion. Dass er vom offiziellen Österreich nach dem Krieg Jahrzehnte lang "vergessen" worden war, hat ihm ebenfalls Kopfzerbrechen bereitet. Bei einem Empfang durch den ehemaligen Bundeskanzler Viktor Klima antwortete er auf die Frage "Was ist Ihr erstes Empfinden, wieder in Wien zu sein?": "Mein erster Gedanke ist, warum Sie fast 60 Jahre gebraucht haben, mir diese Frage zu stellen."

In Argentinien drehte Arndt, der nach der Flucht seine von den Nazis ermordete jüdische Mutter nie mehr wieder sehen sollte, neben seinen Theaterarbeiten bis Mitte der 90er Jahre insgesamt 39 Filme. Auch als Regisseur für Musicals und TV-Shows in mehreren lateinamerikanischen Ländern hat er sich im Laufe der Zeit einen Namen gemacht. Überdies gilt er als einer der Pioniere des argentinischen Radios und Fernsehens. Seine Rundfunksendung "La Agenda de Jacques" auf Radio Cultura (Buenos Aires) betreut er auch im hohen Alter mit ungebrochenem Eifer.