天保11年（1840年）、武蔵国榛沢郡血洗島村（現・埼玉県深谷市）の富農・渋沢市郎右衛門の長男として生まれる。藍玉の製造販売と養蚕を営む裕福な農家で、幼少期から算盤と論語を学んだ。
慶応3年（1867年）、徳川慶喜の実弟・徳川昭武に随行してパリ万博に参加。ヨーロッパの近代的な金融・経済制度に衝撃を受け、株式会社制度・銀行制度・簿記法などを学んだ。この渡欧経験が、帰国後の渋沢の生涯を決定づけた。
明治政府に出仕して大蔵省で国立銀行条例や度量衡法の制定に尽力した後、明治6年（1873年）に大蔵省を辞して第一国立銀行（現・みずほ銀行）の総監役に就任。「官尊民卑」の風潮に抗い、「民の力で国を富ませる」という信念のもと実業界に身を投じた。
以後、東京ガス・王子製紙・東京海上火災保険・帝国ホテル・東京証券取引所・東京商工会議所・東洋紡績・日本郵船・サッポロビールなど約500の企業の設立・経営に関わった。同時に、東京養育院・日本赤十字社・東京女学館・一橋大学の前身である商法講習所など約600の社会事業にも携わり、「論語と算盤」（道徳経済合一説）を提唱して、利潤追求と社会貢献の両立を説いた。
大正5年（1916年）に実業界から引退した後も、社会事業と国際親善に尽力。関東大震災後の復興支援にも力を注いだ。昭和6年（1931年）11月11日、91歳で没。
2024年（令和6年）7月3日、新一万円札の肖像に採用。日本の近代化に最も貢献した実業家として、その功績は今も色褪せない。