林洋港於民國85年與前行政院長郝柏村搭檔參選總統選舉失利後，即長年定居台中市大坑山區的別墅，88年九二一地震住家受損整修，林洋港曾暫時搬離大坑山區，在市區女兒家中暫住。
退出政壇後，林洋港行事低調，很少出席活動，但藍營政治人物還是會登門請益。總統馬英九從參選總統開始，每年固定會前往台中林洋港家中拜年請益；每次看到馬總統，林洋港總是親自迎接，直到近年身體狀況不佳，馬總統拜訪行程才不公開。
林洋港13日晚間10時40分離開國軍台中總醫院，由救護車於11時20分送抵大坑住家。救護車隨車護士表示，林洋港是因腸阻塞問題於3月底住院，最後併發器官多重衰竭，而於晚上發出病危通知，家屬決定送回家中拔管，而於11時31分安詳過世，林洋港的夫人、兒子、女兒和孫子等家人都陪伴在側。