1961年7月10日，根据总参谋部5月19日指示，由步兵第180师炮兵560团57战防炮营与南京军区炮兵新兵大队在安徽滁县东营房合编，下辖6个炮兵连（4门制）、指挥连、教导队、卫生队、修理所等单位，番号改为炮兵第414团，隶属南京军区炮兵。8月26日，由安徽滁县移驻安徽省蚌埠市南岗营房。
1962年12月底，由安徽省蚌埠市移驻南京汤山狼山营房。
1964年4月，该团4连在军区西村靶场为刘少奇主席、陈毅元帅、许世友上将陪同的坦桑尼亚总理尼雷尔作了实弹射击表演。
1969年11月，该团组建第1、2营营部，6个炮兵连有4门制扩编为6门制。
1974年10月，该团由汤山移驻江苏省泗洪县。
1975年5月，军委炮兵在该团召开反坦克炮兵连直瞄打敌坦克群现场研究会。
1976年2月，该团组建第3营。
1982年12月，奉命整编，炮兵连由6门制减编为4门制，营指挥连减编为指挥排，连指挥排减编为指挥班。
1983年1月，该团隶属军区司令部 ，由12军代管。
1985年10月，该团改番号为中国人民解放军反坦克第414团。
1988年7月，该团担负总参炮兵部组织的国产120毫米自行反坦克炮热区试验任务，
1991年2月，该团调归第12集团军领导。1992年11月，该团改归第12集团军建制。撤销火箭布雷连、特务排两个班。
1992年，该团在组织红箭-73反坦克导弹射击中，取得1弹命中3靶的好成绩，首创军区记录。
2003年撤销。