Fakultas Keguruan dan Ilmu Pendidikan (FKIP) Universitas Diponegoro telah berdiri sejak tahun 1961 s.d. 1965 dengan Jurusan Ilmu Pasti. Berdasarkan Keputusan Menteri PTIP No. 40/1965 dan Keputusan Presiden No. 271/1965, Fakultas Keguruan Ilmu Eksakta memiliki 4 jurusan yaitu Jurusan Matematika, Biologi, Ilmu Kimia, dan Fisika.
Sejak tahun 1982 Fakultas Keguruan Ilmu Eksakta menjadi Fakultas Pendidikan Matematika dan Ilmu Pengetahuan Alam (FPMIPA). Tahun 1994 Jurusan Pendidikan Matematika terdiri atas Program Studi Pendidikan Matematika S1. Tahun 1999, Jurusan Pendidikan Matematika terdiri atas Program Studi Pendidikan Matematika S1 dan Program Studi Matematika S1.
Dengan terbitnya Keputusan Presiden No. 124 tahun 1999, tentang perubahan IKIP Semarang, maka IKIP Semarang berubah menjadi Universitas Negeri Semarang. Berdasarkan Keputusan Menteri Pendidikan dan Kebudayaan No. 278/O/1999 tentang Organisasi dan Tata Kerja Universitas Negeri Semarang dan No. 225/O/2000 tentang Statuta Universitas Negeri Semarang, FPMIPA berubah menjadi FMIPA dan Jurusan Pendidikan Matematika berubah menjadi Jurusan Matematika terdiri atas Program Studi Pendidikan Matematika S1, Program Studi Matematika S1, dan Statistika Terapan dan Komputasi D3.
Berikut adalah jajaran pengelola Jurusan Matematika UNNES sejak 1965 hingga sekarang.
- Periode 1965-1969
Ketua Jurusan: Drs. Djalal - Periode 1970-1971
Ketua Jurusan: Drs. Pandoyo - Periode 1972-1973
Ketua Jurusan: Drs. V. Sidharta Iskandar - Periode 1974-1975
Ketua Jurusan: Drs. Pandoyo - Periode 1976-1977
Ketua Jurusan: Drs. A. Malik - Periode 1978-1979
Ketua Jurusan: Drs. A. Malik - Periode 1980-1983
Ketua Jurusan: Drs. A. Malik
Kepala Laboratorium: Drs. Pandoyo - Periode 1984-1986
Ketua Jurusan: Drs. V. Sidharta Iskandar
Sekretaris Jurusan: Drs. Sutopo
Kepala Laboratorium: Drs. A. Malik - Periode 1987-1989
Ketua Jurusan: Drs. Sutopo
Sekretaris Jurusan: Drs. Darmo
Kepala Laboratorium: Drs. Suhito - Periode 1990-1993
Ketua Jurusan: Drs. Sutopo
Sekretaris Jurusan: Drs. Darmo
Kepala Laboratorium: Drs. Sugiarto - Periode 1994-1996
Ketua Jurusan: Dra. Kusni
Sekretaris Jurusan: Drs. Moch. Chotim, M.S.
Kepala Laboratorium: Drs. Wuryanto - Periode 1997-1998
Ketua Jurusan: Dra. Kusni
Sekretaris Jurusan: Drs. Kartono, M.Si.
Kepala Laboratorium: Drs. Dwijanto, M.Si. - Periode 1998-1999
Ketua Jurusan: Drs. Kartono, M.Si.
Sekretaris Jurusan: Drs. Mohammad Asikin, M.Pd.
Kepala Laboratorium: Drs. Dwijanto, M.Si. - Periode 1999-2003
Ketua Jurusan: Drs. Suhito, M.Pd.
Sekretaris Jurusan: Dra. Endang Retno Winarti, M.Pd.
Kepala Laboratorium: Dra. Isti Hidayah, M.Pd.
Koordinator Program Studi Pendidikan Matematika: Drs. Suhito, M.Pd.
Koordinator Program Studi Matematika: Drs. Supriyono, M.Si. - Periode 2003-2007
Ketua Jurusan: Drs. Supriyono, M.Si.
Sekretaris Jurusan: Drs. Moch. Chotim, M.S.
Kepala Laboratorium: Dra. Kusni, M.Si.
Koordinator Program Studi Pendidikan Matematika: Dra. Endang Retno Winarti, M.Pd.
Koordinator Program Studi Matematika: Drs. Supriyono, M.Si.
Koordinator Program Studi Statistika Terapan dan Komputasi: Dra. Nur Karomah Dwidayati, M.Si. - Periode 2007-2011
Ketua Jurusan: Drs. Edy Soedjoko, M.Pd.
Sekretaris Jurusan: Drs. Isnarto, M.Si.
Kepala Laboratorium: Dra. Emi Pujiastuti, M.Pd.
Koordinator Program Studi Pendidikan Matematika: Dra. Endang Retno Winarti, M.Pd.
Koordinator Program Studi Matematika: Drs. Edy Soedjoko, M.Pd.
Koordinator Program Studi Statistika Terapan dan Komputasi: Drs. Arief Agoestanto, M.Si. - Periode 2011-2015
Ketua Jurusan: Drs. Arief Agoestanto, M.Si.
Sekretaris Jurusan: Dr. Mulyono, M.Si.
Kepala Laboratorium: Dra. Emi Pujiastuti, M.Pd.
Koordinator Program Studi Pendidikan Matematika: Drs. Arief Agoestanto, M.Si.
Koordinator Program Studi Matematika: Dra. Kristina Wijayanti, M.S.
Koordinator Program Studi Statistika Terapan dan Komputasi: Endang Sugiharti, S.Si., M.Kom. - Periode 2015-2019
Ketua Jurusan: Drs. Arief Agoestanto, M.Si.
Sekretaris Jurusan: Dr. Mulyono, M.Si.
Kepala Laboratorium: Dr. Masrukan, M.Si.
Koordinator Program Studi Pendidikan Matematika: Drs. Arief Agoestanto, M.Si.
Koordinator Program Studi Matematika: Drs. Mashuri, M.Si.
Koordinator Program Studi Statistika Terapan dan Komputasi: Dr. Wardono, M.Si. - Periode 2019-sekarang
Ketua Jurusan: Dr. Mulyono, M.Si.
Sekretaris Jurusan: Dr. Nuriana Rachmani Dewi (Nino Adhi), M.Pd.
Kepala Laboratorium: Dr. Arief Agoestanto, M.Si.
Koordinator Program Studi Pendidikan Matematika: Dr. Mulyono, M.Si.
Koordinator Program Studi Matematika: Drs. Mashuri, M.Si.
Koordinator Program Studi Statistika Terapan dan Komputasi: Dr. Iqbal Kharisudin, M.Sc.