Schon sehr früh in der japanischen Geschichte, im 7. Jahrhundert, der Dolmen-Periode, wurden schlanke, gerade, einschneidige Schwerter verwendet. Gemeinsam mit dem Buddhismus kam neben anderem chinesischen Kulturgut auch ein neuer Klingentypus, ken genannt, ins Land.

Es handelte sich dabei um eine gerade, zweischneidige Klinge mit rhombischem Querschnitt. Sie wurde jedoch bald durch eine Weiterentwicklung des Dolmenschwertes abgelöst und so entstand die leicht gekrümmte schlanke einschneidige Klinge, die sich in dieser Form bis heute durchsetzen konnte.

Ursprünglich wurde das Schwert beidhändig in großen Schwüngen vom Pferderücken aus geführt, wofür sich die tachi am besten eigneten. Wenn sich die Kampfhandlungen aber auf dem Boden fortsetzten war dieser Schwerttypus zu unhandlich und so entstand die Form der Katana, die auch heute noch benutzt wird. Es ist ein einschneidiges, leicht gekrümmtes, zur Körpergröße passendes Schwert, das schnell zu ziehen und sowohl einhändig als auch beidhändig angenehm zu handhaben ist.

Um die Jahrtausendwende erreichte die Schwertschmiedekunst unter Kaiser Ichijo ihre erste Blüte. Doch schon früher, um 700, signierte der Kaji Akamuni von Yamato seine Klingen.

Die Schwerttechnologie war bereits hochspezialisiert und jeder anderen auf der Welt überlegen. Die Kaji selbst genossen ein derart hohes Ansehen, daß sich sogar der Kaiser Gotoba in dieser Kunst unterweisen ließ. Es wird berichtet, daß er sehr begabt war und einige seiner bemerkenswerten Klingen sind heute noch erhalten.

Als Höhepunkt der Schwertergeschichte wird die Zeit zwischen 1250 und 1350 angesehen. Die drei berühmten Meister-Kaji Yoshimitsu, Masamune und Yoshihiro bildeten die Elite Japans. Im Anschluß daran entstanden die Gokaden. Darunter versteht man 5 verschiedene Schmiedeschulen, die nach ihrer jeweiligen Heimatprovinz benannt wurden: die Soshu-, Bizen-, Yamashiro-, Yamato- und Minoschule.

Im 15. Jahrhundert war es üblich, Schwerter an die Ming-Kaiser nach China zu schicken. Im Jahr 1483 sollen sogar an die 40.000 (!) Schwerter exportiert worden sein.

Nach ungefähr 80 Jahren Bürgerkrieg ging die Kotō Periode, welche sich von 987 bis 1595 erstreckte, zu Ende. Wegen des hohen Waffenbedarfs waren Klingen minderer Qualität in hoher Stückzahl gefertigt worden.

Mit den Erfahrungen des Kriegsalltags entstand ein neuer Schwerttypus und mit ihm die Shintō Periode, die die Zeit von 1596 bis 1780 umfaßt.
Das Wakizashi wurde nun gemeinsam mit dem Katana getragen. Unter den Meistern Myoju und Kunihiro, die schon damals importiertes Eisen verwendeten, schien sich ein neuer Höhepunkt der Schwert-schmiedekunst aufzubauen. Gegen Ende des 18. Jahrhunderts war jedoch der einstige Glanz dieser Kunst fast vollständig verflogen.

Die 3. Periode der Schwertgeschichte, die Shinshintō Periode wurde von Kawabe Masahide im letzten Viertel des 18. Jahrhunderts eingeleitet und währte bis zum Verbotsedikt im Jahre 1876.

Wegen der zahlreichen japanischen Kriegszüge bestand ein großer Bedarf an Schwertern in der Armee und die Klingenherstellung bekam beinahe industrielle Züge. Die Militärschwerter waren daher nur Massenprodukte und wurden aus schlechtem Stahl gefertigt. Sie waren weder handgeschmiedet noch korrekt gehärtet und hatten mit den früheren Klingen nur mehr die Form gemeinsam.

Das von Kaiser Meiji erlassene Verbot, auf der Straße Schwerter zu tragen, bedeutete den endgültigen Niedergang der bislang elitären Zunft der Kaji. Erst im Jahre 1926 wurden wieder 100 Schmiede aus den alten Zunftfamilien zugelassen.

Nach dem Ende des 2. Weltkrieges bis 1953 verboten die Amerikaner in Japan den Besitz und jegliche Herstellung von Schwertern. Danach mußten sich die Kaji verpflichten, nur Kunstobjekte und keine Waffen herzustellen.

Auch heute noch gibt es Vorgaben der japanischen Regierung bezüglich Menge und Qualität der neu geschmiedeten Schwerter. Offizielle Stelle ist die 1960 gegründete Nihon Bijutsu Token Hozon Kyōkai, die über Aus- und Weiterbildung sowie über Studien zum Thema „japanisches Schwert“ wacht.

Als wohl berühmteste heutige Meister sind Miyaguchi Tsunetoshi und Yoshihara Yoshindo zu nennen, die in Tōkyō, den alten Traditionen folgend, wieder hochwertige Klingen schmieden.