中學時代受五四新文化運動影響，熱愛文學。1927年考入清華大學西洋文學系學習。在校期間，他大量閱讀西方古典名著，沈醉於西洋戲劇的研究，畢業後留校任教。
1936年，以優異成績考取公費留學生，進入美國耶魯大學戲劇研究院，專攻導演，兼學編劇、劇場建築以及布景燈光等多種課目。1939年畢業時獲碩士學位，隨即遠涉重洋，返回硝煙彌漫中的祖國。
1939年秋，他應聘於四川江安國立戲劇專科學校講授導演、舞臺美術，並先後導演了曹禺的《蛻變》、《北京人》和李健吾的《以身作則》。
1941年初赴重慶，先後主持中青劇社和中電劇團，同時為怒吼劇社、中華劇藝社和神鷹劇團導演了《邊城故事》、《安魂曲》、《柔密歐和幽利葉》、《牛郎織女》、 《大渡河》等劇，並創作了《山城故事》、《美國大總統》、《小城故事》、《萬世師表》等話劇劇本；翻譯了《好望號》、《審判日》、《吾土吾民》、《富貴浮雲》、《林肯在伊利諾伊州》等話劇、電影劇本。
其間，他還撰寫了不少有關導演理論的文章，比較系統地介紹了A.狄恩的導演理論，並有所豐富和發展。他導演的話劇，正是這種理論的具體實踐，具有結構嚴謹、節奏流暢、形象鮮明和舞臺各部門配合協調的特點。他在抗戰時期的話劇活動，充分顯示了他的藝術稟賦和才華，以及精雕細琢、壹絲不茍的創作作風，給文藝界留下了深刻的印象。抗日戰爭勝利後回到上海，於1947年轉入電影界，先後在中電壹廠、二廠編導了喜劇片《還鄉日記》和《乘龍快婿》，以強烈的對比和辛辣的諷刺尖銳地揭露了抗戰勝利後國民黨反動派“劫收”掠奪的醜惡現實，受到當時進步輿論的註目。
1948年，由於他不滿“中電”當局對創作的蠻橫幹涉，離開上海去香港，為永華影片公司導演了《火葬》。1949年4月北上，不久參加第壹次全國文代會，迎來了他創作的嶄新時期。建國後，他除擔任繁重的行政、藝術領導工作外，先後改編和創作了《勝利重逢》（1954）、《雞毛信》（1954）、 《新安江上》（1958）、《六十年代第壹春》（1960，集體）；導演了《翠崗紅旗》（1951）、《淮上人家》（1954）、 《燎原》（與顧而已合作）、《白求恩大夫》（1964、編導、劇本和趙拓合作）、《大澤龍蛇》（1982）和編導了大型藝術性紀錄片《大慶戰歌》（1965）。這些作品洋溢著飽滿的熱情，從不同角度、各個層面表現了工農兵群眾的鬥爭生活。
《翠崗紅旗》是他在新中國執導的第壹部影片，通過細膩的鏡頭處理和樸實的演員表演，成功地塑造了紅軍家屬向五兒的形象，這部影片受到觀眾的歡迎，得到周恩來等老壹輩無產階級革命家的贊揚；《雞毛信》是他根據華山的小說改編的電影文學劇本，他按照兒童特有的思想感情和心理狀態，刻劃了海娃機智勇敢、粗中有細和樂觀開朗的性格； 《燎原》以強烈明快的節奏，層層叠進的情節，表現了工人運動的磅礴氣勢，具有史詩的特色；《白求恩大夫》以其純凈流暢的蒙太奇語言，凝重嚴謹的韻律和駕馭獨特情節的能力，使影片成為中國人物傳記片中的佼佼者，堪稱他的代表作。在電影理論方面，他也頗多建樹，出版了論文集《關於電影的特殊表現手段》和《影事瑣議》。在他的晚年，曾多次發表意見，撰寫文章，強調電影的文學性，要體現文學價值，引起較大的反響。他還致力於電影基礎理論建設，由他主編的《中國電影大辭典》，於1995年10月問世，填補了中國沒有壹部比較完成、系統的電影辭典的空白。
建國後，他歷任上海電影制片廠副廠長、上海電影制片公司副經理、上海市電影局副局長、局長、文化部電影局副局長、上海電影專科學校校長等職。他於1956年加入中國***產黨。是全國政協第二、三、四屆委員，第五、六屆全國人大代表，曾任中國電影家協會副主席、上海電影家協會主席。
張駿祥於1996年去世，享年86歲。