民國卅八年底,陳慶堃調任太倉艦長,長期協防海南島,當時艦上生活條件惡劣,官兵士氣低落,甚至有人故意破壞裝備。他發現事態嚴重,於是將上級撥發的辦公費,幾乎全花在替官兵加菜,並固定與基層官兵一起用餐聊天,終於提振起士氣。
後來陳慶堃赴美接收「咸陽」號驅逐艦,發現艦上的火砲狀況欠佳,留在船上協助接收的美方幹部卻不肯承認。他心生一計,申請出海進行打靶,並要求最高訓練強度。果然一連五天打下來,槍砲紛紛故障。美方只好承認有瑕疵,進廠全部更新。
民國五十四年,海軍在烏坵被共軍突襲,兩艘軍艦一沉一傷,支隊長麥炳坤上校被軍法審判。陳慶堃與麥炳坤是廣東同鄉,因此受託替他說情。部屬勸他,麥炳坤此時是過街老鼠,據說蔣總統父子都很生氣,何必自找麻煩?但陳慶堃仍堅持,受人之託,老鄉有難,不能不幫。
陳慶堃後來果然被國防部長蔣經國大罵一頓,平日的江湖作風,也影響他在層峰心目中印象,艦隊司令任滿後就退伍。但據說,前國防部長高魁元曾經感慨,國家虧欠陳慶堃,「他至少該當一任總司令!」