В детстве получил прозвище «молодой тигр». В трехлетнем возрасте потерял отца и воспитывался вместе с Тоётоми Хидэёси, которому приходился родственником. Тоётоми Хидэёси (также незнатного происхождения) сумел возвыситься и стать вторым из трех феодальных правителей Японии. Като Киёмаса поступил к нему на службу в 18 лет. Уже в первых сражениях проявил свои боевые качества, а в 21 год стал одним из приближенных военачальников.
В 1592 году Хидэёси посылает войска в Корею, Киёмаса становится командующим одной из армий. В этом походе проявил себя опытным и беспощадным завоевателем, за что корейцы прозвали его «полководец-дьявол». Он был первым японским военачальником, дошедшим до Китая. В одном из ожесточенных боев Като Киёмаса успел перехватить свой штандарт из рук убитого знаменосца. Возможно, эта история впоследствии стала причиной частого изображения полководца со своим знаменем. На протяжении последующих лет (1593-1598) Япония оккупировала небольшую часть Кореи. Киёмаса в этот период проявил умение строить крепости. Также он участвовал и во втором вторжении в Корею в 1597 году. В тяжелейших условиях он показал себя заботливым командиром, поддерживающим боевой дух своих солдат.
После смерти Тоётоми Хидэёси в 1598 году Киёмаса вернулся в Японию и занялся своим имением. Опасаясь конфликтов, он укрепил свой замок Кумамото, сохранившийся до наших дней (сейчас там располагается музей). С 1600 года Като Киёмаса выступает на стороне Иэясу Токугава (ставшего объединителем Японии), затем переходит на сторону сына Хидэёси Тоётоми – Хидэёри. Считается, что Киёмаса опасался за жизнь Хидэёри, а потому способствовал заключению перемирия между ним и Токугавой. Для переговоров Като даже предоставил свой замок. Перемирие продлилось 10 лет. В 1611 году Киёмаса внезапно умирает. После этого сторонники Токугава Иэясу практически полностью уничтожили клан Тоётоми. Существует мнение, что полководец был отравлен по приказу Иэясу, ставшего сёгуном.
В историю Като Киёмаса вошел как настоящий воин, превыше всего ставивший боевое искусство. Изображается он в полных доспехах и необычной формы шлеме или сидящим на шкуре убитого им тигра. В Наставлениях самураям Киёмаса подробно изложил свои взгляды на то, как воин может достичь совершенства. Главное предназначение самурая он видел в способности в любой момент «взять короткий и длинный мечи и умереть».