薩摩藩士。全名田中新兵衛雄平，鹿兒島城下藥商之子。自幼喜愛劍術，為野太刀示現流高手。後來成為島津織部的侍從。
新兵衛以“人斬”之名聞名，是從暗殺前關白九條尚忠家臣、安政大獄實行者島田左近開始的。
文久二年（1862）七月二十日，新兵衛協同同為薩摩藩士的鵜木孫兵衛、誌誌目獻吉壹行三人突襲京都木屋町二條下左近的妾宅，左近如脫兔般逃走，無奈新兵衛行動更為迅速，追上壹刀將左近斬殺。
距這次暗殺壹個月後，新兵衛結識了土佐藩士武市半平太並與之結為義兄弟。此後，新兵衛便與岡田以藏等壹起，作為“人斬”活躍於維新的背後：
文久二年閏八月二十日，於京都三條木屋町刺殺本間精壹郎。協同者岡田以藏等數人。
文久二年九月二十三日，於江州石部宿刺殺京都町奉行渡邊金三郎、大河原重三、森孫六、上田助之丞四人。協同者岡田以藏、久阪玄瑞、寺島忠三郎、山本喜三之進等薩摩、長州、土佐、久留米四藩藩士三十余人。
文久三年壹月二十九日，於京都下立売千本東刺殺千種家家臣賀川肇。協同者無。
……
因此，田中新兵衛被稱為“天誅”之先驅。
文久三年（1863）五月二十日，對新兵衛來說是不幸的壹天。此日夜，尊攘派公卿姊小路公知在參加了禦所會議後的歸側途中，被暗殺於朔平門外。而在現場發現壹把刀鞘，經判定屬田中新兵衛所有，於是將新兵衛逮捕至町奉行所。在町奉行所，新兵衛壹直憤慨地矢口否認犯案。而當審問官將刀鞘出示給他看時，新兵衛臉色驟變，立即拔出肋差當場切腹自盡。
據說新兵衛的刀鞘已不在多時，而以新兵衛作為壹個武士來說，丟失刀鞘是壹件非常羞愧的事情，而失落的刀鞘又被人發現在兇案的現場，因此新兵衛切腹自盡以負其則。而暗殺姊小路公知的兇手究竟是不是田中新兵衛呢？這到現在還是壹個迷。
新兵衛享年二十三歲，真是英年早逝啊。