1983年經國號(IDF)戰機研發同時，代號「天劍計畫」的天劍二型飛彈也一同進行研發，由軍備局中山科學院負責執行，該型飛彈首次公開是在1994年的漢光11號演習上，當時並且由IDF戰機試射飛彈擊落靶機，國防部在1997年宣布量產。
1999年天劍二型飛彈進入空軍服役，為IDF戰機主力防空武器，掛載於機腹中線，採半埋式掛架將2枚飛彈縱列掛載。在IDF戰機性能提升計畫中，除了將提升天劍二型飛彈射程外，也將IDF戰機配掛劍二飛彈數量從原來的2枚增加到4枚
由於美國的麻雀中程空對空飛彈(AIM-7)也成為IDF戰機掛載的飛彈需求之一，所以天劍二型的氣動力外型設計上也以麻雀飛彈為基準。天劍二型最大速度為4馬赫、有效射程60公里，採中途慣性導引，終端主動雷達導引。
海軍採購的拉法葉級(康定級)巡防艦防空武器為老舊陽字級艦上拆除的海欉樹防空飛彈，使得防空戰力薄弱一直為人詬病，因此國防部預計2017年為康定級艦換裝艦載型天劍二型飛彈。國防部次長高天忠中將2014年10月1日在立院接受立委質詢時表示，海軍在濟陽級艦上已試射過天劍二型飛彈，下一步往康定級艦走，目前按期程進行中，還算順利。
除了空載與艦射型之外，目前公開的衍生的天劍二型飛彈發展包括陸射型四聯裝防空飛彈系統，以及空載反輻射飛彈的研發。