Компания была основана в 1862 году Йораном Фредриком Йоранссоном, который первым в мире добился успеха в использовании метода Бессемера для производства стали в промышленных масштабах.
Еще в 1860-х годах ассортимент продукции включал бурильную сталь для бурения горных пород. Производство нержавеющей стали началось в 1921 году, а цементированного карбида - в 1942 году. Производство твердосплавных инструментов началось в 1950-х годах в Гимо, Швеция.
В 1972 году название компании было изменено на Sandvik AB, а в 1984 году был введен новый тип организации с материнской компанией и отдельными бизнес-направлениями.