Als Kind träumte Paul Picerni davon, Anwalt zu werden, bis er in einem Theaterstück der achten Klasse mitwirkte und später erfuhr, dass der Schuldirektor von seiner Darbietung begeistert war und ihn als „geborenen Schauspieler“ bezeichnete. Danach trat er in kleineren Theaterproduktionen auf und später (nach seinem Dienst bei der Luftwaffe im Zweiten Weltkrieg) auf der Bühne der Loyola University. Picerni spielte gerade in Hollywood Theater, als er von Solly V. Bianco, dem Talentmanager von Warner Brothers, entdeckt wurde. Der junge Schauspieler wurde ins Studio eingeladen und erhielt eine Rolle in „Le grand assaut“ (1950). Dieser Kriegsfilm sollte sich als treffend benannt erweisen, denn er führte zu einem Vertrag mit Warner Bros. und einer langen Reihe von Rollen in dem Studio. Bekannt wurde Picerni vor allem durch seine Nebenrolle in dem Fernsehklassiker „Les Incorruptibles“ (1959) mit Robert Stack. Er ist Vater von acht Kindern und Großvater von zehn Enkelkindern.