父亲是长尾政景家老、上田执事樋口兼丰，母亲是上杉家重臣直江景纲的妹妹。
除了擅长使用重锤作为武器之外，更是日本七柱枪之一。
直江兼续初为上杉谦信的近侍，不久成为上杉景胜近臣。
天正六年（1578年）三月十三日，上杉谦信病死，爆发“御馆之乱”，直江兼续为上杉景胜赢得了主动，成为平定乱事的功臣之一。
天正十年 （1582年）直江信纲被杀，直江氏断后，上杉景胜命兼续娶直江景纲之女、直江信纲之正妻阿船以入赘直江家。
从此正式开始辅助上杉景胜治理越后国，并且发挥出内政、军政的才干。天正十一年（1583年），上杉与丰臣秀吉正式结盟，牵制佐佐成政以便秀吉攻打柴田胜家。
天正十三年（1585年），陪同上杉景胜于越水城会见丰臣秀吉，并立下“越水会盟”正式臣服秀吉，在该时结识了石田三成，后来更成为好友。
天正十六年（1588年），陪同上杉景胜上洛。庆长三年 （1598年），上杉景胜改封到会津，外加米泽三十万石予直江兼续。
庆长五年（1600年），关原合战中与东军敌对。
西军战败后于庆长六年（1601年）八月与上杉景胜上洛请罪，仍被封六万石俸给，但只自取六千石。
庆长十九年（1614年），德川家康以重臣本多正信之次男政重过继为直江家养子。
之后的兼续陪同景胜参与大阪之战。元和五年（1619年）于江户病逝，享年六十岁，葬于米泽德昌寺。