不過，陳揆日前曾公開表態相信林益世清白，除了馬英九總統，陳揆是另一位最難堪的馬政府高層。
在六月廿七日媒體揭露林益世捲入收賄案當天，政院由發言人胡幼偉陪林益世召開記者會自清，陳揆當晚出席宴請甘比亞總統賈梅的國宴，回答媒體詢問時指出，這件事很清楚，媒體報導時，刊出高雄市政府環保局公函的照片，雖未多做解釋，但可看出那個公司斷料停工，是因高雄市環保局的命令。可惜媒體沒特別說明這個公函，如果多些說明、報導，可能讓整件事更清楚。
當時媒體追問，所以院長相信林益世的清白？陳揆明確表示，「對」。目前看起來，如果是媒體所報導的因為這樣子（林益世）而斷料停工，完全是「子虛烏有」的事。
不過，林益世昨坦承收賄，讓陳揆不得不在昨天開記者會發表聲明表示，對於林益世涉嫌觸法，他身為行政院長「深感痛心與遺憾」，也向所有國人鄭重道歉，相信司法單位定能釐清案情，公正處理。
對於林益世是否對府院有所隱瞞，陳揆表示，事發後他就要求林益世針對人事物整理查證並做必要說明，其中的「物」在案件來講是金錢問題，但林益世從頭到尾都強調「錢是沒有的事情」；直到昨天的道歉聲明，才承認自己「嚴重失職、涉嫌貪瀆」。
陳揆指出，行政院的危機處理，每一步都是依法慎重執行，無所謂快慢問題；所謂府院對林益世案態度不一，「這都是過度的想像」，從行政院歷次的說明可知府院態度並無不同。
對於林益世仍名列行政院中央廉政委員會委員，陳揆說，秘書長是因該職務而列名委員，新任秘書長產生後，名單就會更換。