楊念祖生於1955年5月，輔仁大學社會系學畢業、1980年獲得英國雷丁大學社會研究所碩士、1981年獲得英國倫敦大學政學院研究所碩士、1982-84年前往英國牛津大學沃夫生學院研究。
回國後，楊念祖曾任國立中山大學學術研究中心助理研究員、國立中山大學中山所兼任講師、中華民國高等政策研究協會秘書長、美國新聞總署（USIA）訪問學者、國立中山大學學術研究處交流組組長、外交部諮詢委員、陸委會諮詢委員、國防部國防報告書諮詢委員、國立中山大學講師、國防部高級戰略研究班講座、國立中山大學通識教育中心專任助理教授等職、國防部軍政副部長。
楊念祖專長領域為解放軍研究，著作包括:新世紀中共解放軍與台海安全、中共軍事戰略的演進與未來發展趨勢、美國最新國防評估與兩岸關係、中華民國的國防環境與建軍方向、台灣應打不對稱戰法、近期解放軍空軍發展之研析等專文。
2013年7月29日，時任國防部長高華柱因為洪仲丘案請辭獲准，楊念祖由副部長拔擢為部長，成為繼汪道淵、陳履安、孫震、蔡明憲之後，第5位文人國防部長，同時也是馬英九政府任內，首位文人國防部長。