山崎出生於大阪船場，從京都女子高等專門學校（現在的京都女子大學）畢業後，進入「每日新聞社」大阪總社工作，接受學藝部副部長井上靖的指導，開始寫小說。
山崎在1957年以自家開的昆布店為故事背景撰寫「暖簾」，1958年以吉本興業的女創辦人為主人翁撰寫「花暖簾」榮獲直木獎。從每日新聞社離職之後，她撰寫「女系家族」、「花紋」等以大阪為故事背景的女性生涯，成為人氣作家。
1965年她撰寫「白色巨塔」，描述醫學界的內幕及醫療疏失問題等，這部小說後來被拍成電影、連續劇，票房、收視率都叫好叫座。
山崎之後以實際事件、社會問題為題材撰寫小說，譬如描寫政經界掛勾的「華麗一族」、從西伯利亞歸還的軍人後來轉戰商場的作品「不毛地帶」、描寫日裔美國人悲劇的「兩個祖國」、描寫被遺留在中國大陸的日本人孤兒「大地之子」等，小說張力強，也反映人性。
她的主要作品幾乎都被拍成電影或日劇。到了西元2000年代，她的代表作品還被重新翻拍，即使跨時代也大受歡迎。
山崎以航空公司為故事背景、深入探討日本企業勞資問題的「不沈的太陽」於2009年被拍成電影，獲得日本的「電影學術獎」。同年，她開始採訪並撰寫有關沖繩（琉球）由美國歸還給日本的密約報導事件，花了10年的時間推出小說「命運之人」。
山崎的作品以根據綿密的調查構成豐富文章結構著稱，文中加入大膽的角色，有時引起討論，也曾被指有盜用的部分，演變成訴訟案。她的作品「不毛地帶」當中，「朝日新聞」認為她盜用新聞報導，她告朝日新聞毀損名譽，之後雙方和解。作品「大地之子」有大學教授控告她侵害著作權，但後來這位教授敗訴。
她曾任夏威夷大學客座教授、中國社會科學院客座研究員。
山崎完成作品「大地之子」之後想要退休，但被說「藝人有退休、藝術家是沒退休的，在寫作之際，進棺材才是作家」，之後她持續執筆，將書房稱為「監獄」，作品完成後就說「出獄」，感到很高興。今年8月起，週刊「新潮」開始連載她的新作「約定之海」。