Nachdem seine ersten Ehefrau Emily 1950 ihrer Krebserkrankung erlag – das Paar hatte erst fünf Jahre zuvor geheiratet – zog sich Zimbalist für einige Zeit von der Schauspielerei zurück und lebte mit seinen beiden kleinen Kindern, Efrem Zimbalist III und Nancy Zimbalist, in Philadelphia. Hier nahm er eine Assistentenstelle am "Curtis Institute of Music"¹⁾ in Philadelphia¹⁾ an, wo sein Vater als Direktor bzw. Künstlerischer Leiter (1941–1968) fungierte.

Mitte der 1950er Jahre entschloss er sich, seinen eingeschlagenen Weg als Schauspieler fortzusetzen und übernahm eine Rolle in der Serie "Concerning Miss Marlowe". Kurze Zeit später heiratete er Stephanie Spaulding, mit der er die gemeinsame Tochter Stephanie, heute ebenfalls eine bekannte Schauspielerin, hatte. Auf Drängen seines Freundes Joshua Logan1) ließ er sich zu Probeaufnahmen bei "Warner Brothers"1)  überreden und erhielt einen Siebenjahres-Vertrag, drehte mit dem patriotischen Streifen "Bombers B-52"1) (1957) als Partner von Natalie Wood nach längerer Zeit wieder einen Kinofilm. In den folgenden Jahren spielte er in einigen weiteren Kinoproduktionen mit, der Erfolg als Leinwanddarsteller wollte sich jedoch nicht so recht einstellen. Der Durchbruch zum populären beliebter Schauspieler gelang ihm dann beim Fernsehen: Zwischen 1958 und 1964 wurde er weltweit berühmt als freundlicher Privatdetektiv Stuart Bailey in der wöchentlichen Krimiserie "77 Sunset Strip".

"77 Sunset Strip": Abbildung DVD-Cover sowie Szenenfoto mit den Hauptdarstellern (v.l.n.r.): Richard Long (Detektiv Rex Randolph), Efrem Zimbalist Jr. (Detektiv Stuart Bailey), Jacqueline Beer (Sekretärin Suzanne Fabray), Roger Smith ( Detektiv Jeff Spencer), Louis Quinn (Pferdewetter Roscoe) und Edward "Edd" Byrnes (Kookie) Mit freundlicher Genehmigung von "Pidax Film", welche die legendäre Krimiserie (Volume 1–3) Mitte Mai 2021  auf DVD herausbrachte ( Link: Wikipedia (deutsch/englisch)

Für Zimbalist war dies der Beginn einer weiteren langjährigen Serienfigur, ab 1965 machte er mit der Rolle des FBI-Ermittlers Lewis Erskine in der Serie "The F.B.I" Furore.  Hier ermittelte er nun gemeinsam mit seinem Assistenten in allem, wofür das FBI¹⁾ zuständig zeichnet, Entführung, Geldfälscherei, Spionage oder das organisierte Verbrechen. Die Fälle von Lewis Erskine basierten auf wahren Unterlagen der Polizei und die Produzenten der Serie erhielten sogar Unterstützung von offizieller Seite, dem allmächtigen Chef des FBI James Edgar Hoover¹⁾. Auch diese Serie war überaus erfolgreich und lief neun Jahre bzw. neun Staffeln lang. Spätere Serien-Rollen von Zimbalist waren beispielsweise Mitte der 1980er Jahre die des Charles Cabot in einigen Folgen des Quotenrenners "Hotel"¹⁾ und der Don Alejandro de la Vega und Vater des Titelhelden Don Diego de la Vega alias Zorro¹⁾ (Duncan Regehr¹⁾) in "Zorro – Der schwarze Rächer"¹⁾ (1990, "Zorro"), zwischen 1983 und 1987 ließ er sich verschiedentlich mit dem Part des Trickbetrügers Daniel Chalmers in der Krimiserie "Remington Steele"¹⁾ an der Seite der Protagonisten Pierce Brosnan¹⁾ und Tochter Stephanie (Privatdetektivin Laura Holt) blicken.

Im Kino war Zimbalist nur in wenigen Filmen von internationaler Bedeutung präsent. John Sturges¹⁾ besetzte ihn neben Lana Turner in dem Melodram "Und die Nacht wird schweigen"²⁾ (1961, "By Love Possessed") nach dem Roman von James Gould Cozzens¹⁾, als Audrey Hepburns Ehemann glänzte er in dem packenden Thriller "Warte bis es dunkel wird"¹⁾ (1967, "Wait Until Dark") oder als verletzter Pilot Captain Stacy in dem Katastrophenstreifen "Airport 1975"¹⁾ ("Giganten am Himmel"). 1982 mimte er in dem Western "The Avenging" einen Strafgefangenen, der aus dem Gefängnis ausbricht, um Rache zu nehmen, Anfang der 1990er Jahre trat er mit der Nebenrolle des Flugzeugbauers Wilsonr in der Slapstick-Komödie "Hot Shots! - Die Mutter aller Filme"¹⁾ (1991, "Hot Shots!") auf.  Danach arbeitete der Schauspieler hauptsächlich als Sprecher, stand jedoch immer wieder sporadisch vor der Fernsehkamera. Zu seinen bekanntesten Rollen als Sprecher zählt der Dr. Octopus in den Zeichentrickserien "New Spider-Man"¹⁾ (1993–1998) sowie der Butler Alfred Pennyworth in "Batman"¹⁾ (1992–1995), einer Figur, der er unter anderem auch in "Batman: Mask of the Phantasm"¹⁾ (1993, "Batman und das Phantom"),  "Batman & Mr. Freeze: SubZero"¹⁾ (1998, "Batman & Mr. Freeze – Eiszeit") und "Batman: Mystery of the Batwoman"¹⁾ (2003, "Batman – Rätsel um Batwoman") seine Stimme lieh. Letztmalig trat er 2008 als Professor in dem Kurzfilm "The Delivery" auf der Leinwand in Erscheinung. 
Darüber hinaus machte sich Zimbalist mit seiner 2003 veröffentlichen Autobiografie "My Dinner of Herbs" auch als Autor einen Namen. 

Nach dem Krebstod seiner Frau Emily McNair, die er 1945 geheiratet hatte, gab der Schauspieler 1956 Stephanie Spaulding das Ja-Wort, nach der Scheidung im Jahre 1962 heiratete das Paar wenige Zeit später zum zweiten Mal; Stephanie Spaulding Zimbalist starb am 5. Februar 2007 im Alter von 73 Jahren an den Folgen ihrer Lungenkrebserkrankung. Die gemeinsame, 1956 geborene Tochter Stephanie Zimbalist¹⁾ machte sich einen Namen als populäre Schauspielerin. Efrem Zimbalist III, der als Verleger tätig ist, und Nancy Zimbalist gingen aus der Verbindung ihres Vaters mit Emily McNair hervor.
 
Efrem Zimbalist jr. starb am 2. Mai 2014 im hohen Alter von 95 Jahren im kalifornischen Solvang. Die letzte Ruhe fand er auf dem "Town Hill Cemetery" in New Hartford (Connecticut) in der Nähe seiner Eltern.
Auf dem "Hollywood Walk of Fame"¹⁾ war er bereits am 1. Februar 1994 mit einem "Stern" geehrt worden.