Mizuno ble opprinnelig grunnlagt som Mizuno Brothers, Ltd. i 1906 av Rihachi Mizuno og hans yngre bror Rizo i Osaka. Butikken begynte med å selge vestlige varer, blant annet baseballer, og utvidet senere til å tilby spesialtilpassede sportsklær og fottøy.
I 1933 introduserte Mizuno Star Line, de første japanskproduserte golfkøllene. Under andre verdenskrig bidro Mizuno til Japans krigsinnsats ved å produsere militær ammunisjon. I 1961 ble den første amerikanske fabrikken, kjent som American Mizuno, etablert i Los Angeles.
