Тацудзи окончил академию японской императорской армии в Токио.

В конце Первой Мировой войны Суга служил в Сибири, Корее, Манчжурии и в Китае. В 1924 году досрочно вышел в отставку в звании майора, решил стать преподавателем английского языка. С этой целью Тацудзи Суга отплыл в США, семья осталась в Японии и жила на его офицерскую пенсию.

Суга окончил Вашингтонский университет в Сиэтле и стал сертифицированным преподавателем английского языка. Во время учёбы работал посудомойщиком, рыбаком.Впоследствии Суга преподавал английский язык в Японии, Корее, Китае и Маньчжурии.

В 1937 году Суга был призван в действующую армию во время Второй японо-китайской войны. В октябре 1941 года у него был диагностирован диабет и Суга снова вышел в отставку. После японского нападения на Пёрл-Харбор он добровольно предложил использовать своё знание языка в качестве начальника лагеря и был назначен начальником всех лагерей военнопленных и интернированных на Борнео.

Борнео был одним из островов, на котором японцы построили лагеря для военнопленных и интернированных, такие как Бату-Линтанг, Кучинг, Саравак, Джесселтон (позже Кота-Кинабалу), Сандакан и на острове Лабуан. Суга в основном служил в Бату Линтанг, но часто посещал и другие лагеря.

Атомные бомбардировки Хиросимы 6 августа 1945 года и Нагасаки 9 августа приблизили конец войны. 15 августа 1945 года Япония объявила о своей безоговорочной капитуляции. 24 августа Суга официально объявил заключённым в Бату Линтанг, что Япония капитулировала.

11 сентября 1945 года Суга вместе со своим командиром генерал-майором Хиое Ямамура принял участие в церемонии официальной капитуляции японских войск в районе Кучинг. В тот же день Суга в лагере Бату-Линтанг официально сдался в плен бригадиру Томасу Эстику, командиру отряда в составе 9-й австралийской дивизии.

На следующий день Суга вместе с несколькими своими сотрудниками был доставлен на австралийскую базу на острове Лабуан, для предания суду как военные преступники. 16 сентября Суга покончил с собой. Оставшихся офицеров позже судили, признали виновными и казнили.

Как начальник лагерей для военнопленных и гражданских интернированных Суга был ответственен за многие злодеяния, которые имели место в этих лагерях, в том числе за Сандаканские марши смерти.