Sharp được sáng lập vào năm 1912 bởi Tokuji Hayakawa – một thợ kim khí trẻ người Nhật với khát vọng sáng tạo. Từ xuất phát điểm khiêm tốn, ông bắt đầu sự nghiệp bằng việc chế tạo bút chì cơ học, lấy cảm hứng từ mẫu nhập khẩu của Đức. Chỉ ba năm sau, năm 1915, Hayakawa đã tạo nên bước ngoặt khi phát minh ra chiếc bút chì cơ Ever-Sharp – sản phẩm vừa mang tính sáng tạo vừa tiện dụng. Chính cái tên “Ever-Sharp” đã trở thành nguồn gốc cho tên chính thức của tập đoàn sau này.
Tuy nhiên, trận động đất Kanto năm 1923 đã phá hủy toàn bộ cơ sở sản xuất, buộc công ty phải tái định hướng. Từ đó, Sharp bắt đầu chuyển mình sang lĩnh vực công nghệ điện tử, mở ra một kỷ nguyên hoàn toàn mới.
