Jeho počátky sahají do 12. století, kdy v Japonsku vznikla kasta bojovníků – samurajů. Umění boje s mečem pro samuraje bylo privilegiem, ctností i podmínkou k přežití. Boj s mečem se nazýval Kendžucu (doslova „umění meče“). Škol Kendžucu - Rjúha (流派) - bylo několik set, mnohé se zachovaly do dnešní doby a stále pokračují ve výcviku. Hlavní metodou výuky těchto škol byly kata (形), tedy simulované souboje, ať již v podobě pro jednoho člověka proti imaginárním soupeřům, nebo spíše častěji pro dva praktikanty bojující spolu proti sobě (v této formě se cvičí i kata v Kendó).
Samurajové cvičili umění meče od ranného dětství po celý svůj život, u tehdejších mistrů se snažili dosáhnout dokonalosti své techniky. Samurajové cvičili pomocí dřevěných nebo skutečných mečů, ale při cvičení s partnerem byl takový trénink nebezpečný a umožňoval vedení seku, nebo bodu pouze bezkontaktně nebo jen s lehkým kontaktem. Od zhruba 18. století, kdy po skončení období válek, panovalo období relativního míru a ubylo soubojů na meče. Někteří mistři té doby se domnívali, že samotné cvičení kata již nestačí a výcvik začíná ztrácet na realismu. Zavedli proto nový prvek do výcviku - ochrannou výstroj bógu (防具) a bambusový meč šinaj (竹刀). Takto bylo možné provádět výcvik a simulovat souboj se skutečnými zbraněmi bez rizika zranění - umožnili a zavedli tak plnokontaktní trénink a volný "sparring". Tento styl výcviku doplnil cvičení kata a postupně se rozšířil a do svých osnov jej postupně přijalo velké množství Rjúha. V polovině 19. století se zdokonalila výzbroj a výstroj do současné podoby.