生誕〜上杉家の宰相へ
永禄３年、上田長尾家家臣・樋口兼豊の長男として生まれる。
上田長尾家当主・政景の死後、上杉謙信の養子となった景勝と共に春日山城に移り近習となる。また謙信に目をかけられ薫陶を受けたといわれる。
謙信の死後、景勝と、謙信のもう一人の養子・上杉景虎との間に跡目争い・御館の乱が起こると、兼続は父・兼豊と共に上田衆をまとめ奮戦する。
天正12年(1584年)には、景勝の命により直江景綱の娘・お船の方の婿となり直江家を継ぎ越後与板城主となる。以後、執政として上杉家を取り仕切る。
豊臣政権下で
本能寺の変後の柴田勝家と羽柴秀吉の抗争が北越に及ぶと、主家存続のために秀吉に臣従という苦渋の決意をし景勝に進言する。
豊臣政権下でも小田原征伐、朝鮮出兵、奥州一揆征伐などで功を挙げ、秀吉から豊臣の姓を賜る。
慶長３年(1598年)、上杉家は越後91万石から会津120万石に加増転封される。その際、兼続は秀吉の命により出羽30万石(寄騎含む。実禄は６万石)の所領を与えられる。
家康への挑戦
秀吉の死後、徳川家康が権勢を振るうが、石田三成と親交の深かった兼続は家康との対立を決意する。家康は数度、景勝・兼続に上洛を求めたが、兼続は断固として拒否しする。それどころか国境の城塞修復や軍備を整えた。それに激怒した家康は会津征伐の兵をあげる。実際は戦火を上げるには至らなかったが、これが関が原の戦いの遠因となる。
関が原の戦いに際しては、山形に進行し最上義明と戦った。しかし、関が原での石田方の敗戦の報せを受け、伊達軍の追撃を激しい攻防の末振り切り、撤退する。
関が原の翌年、兼続は景勝と共に家康に謝罪するために上洛。景勝は出羽米沢30万石へ減封となり罪を許された。
その後は徳川政権下に入り、領国経営に力を注ぎ米沢藩の礎を築く。また大阪の陣でも武功を挙げる。
元和5年12月19日（1620年1月23日）、江戸鱗屋敷で病死。享年60。
「愛」の字を前立にあしらった兜が現代に残されている。
