In der römischen Grenzstadt Moguntiacum am Rhein gab es seit dem späten 2. Jahrhundert eine christliche Gemeinde. Etwa seit dem 4. Jahrhundert ist Mainz Bischofssitz.
Der Missionar Winfried Bonifatius (ca. 672/75 - 754) aus dem südenglischen Wessex, seit 732 Erzbischof, übernahm um 745/48 das Bistum Mainz und schuf die Grundlage, dass Mainz Sitz eine der größten und angesehendsten Diözesen des Abendlandes werden konnte. Unter seinem Amtsnachfolger Lullus wurde das Bistum zum Erzbistum erhoben.
In den folgenden Jahrhunderten reichte der Einfluss von Mainz zeitweise von Straßburg über Chur bis nach Olmütz, Prag, Brandenburg und Havelberg. Seit Erzbischof Willigis (975-1011), dem Erbauer des Mainzer Doms, blieb das Amt des Mainzer Erzbischofs mit dem des Erzkanzlers des Heiligen Römischen Reiches Deutscher Nation verbunden. Der Mainzer Erzbischof war der erste der sieben Kurfürsten des Reiches und beeinflusste entscheidend die Königswahl.
1514 wurde Albrecht von Brandenburg (1514-1545), der bereits Oberhirte des Erzbistums Magdeburg und Administrator des Bistums Halberstadt war, zum Erzbischof von Mainz gewählt. Für die Erlaubnis einer derartigen Anhäufung von Ämtern hatte er der Kurie in Rom erhebliche Gebühren zu entrichten. Das nötige Geld wurde u.a. vom Dominikanerprediger Johann Tetzel durch den Verkauf von Ablässen (Nachlass von Sündenstrafen) herbeigeschafft: Dieser Handel war 1517 Anlass für einen Protest von Martin Luther, Augustinermönch und Theologieprofessor in Wittenberg, und damit einer der Auslöser der Reformation in Deutschland.
Die Französische Revolution und ihre (kriegerischen) Folgen brachten Ende des 18. Jahrhunderts den Zusammenbruch des Erzbistums Mainz und seines Metropolitanverbands.
1801 und 1821/27 wurde das Gebiet des Bistums neu umschrieben. Sie umfaßt seither das damalige Großherzogtum Hessen-Darmstadt mit den Provinzen Rheinhessen, Starkenburg und Oberhessen. Heute gehört das Bistum Mainz, das in den Bundesländern Hessen und Rheinland-Pfalz liegt, zur Kirchenprovinz des Erzbistums Freiburg.
Bischof Wilhelm Emmanuel von Ketteler (1811-1877; Bischof von Mainz seit 1850) wurde durch seinen Einsatz für soziale Fragen und die Freiheit der Kirche zu einem der bedeutendsten Bischöfe seines Jahrhunderts.
In der Zeit des nationalsozialistischen Regimes (1933 - 1945) erlitt auch das kirchliche Leben im Bistum Mainz vielfache Einschränkung, Zerschlagung und Verfolgung. Bischof Albert Stohr (Amtszeit: 1935 - 1961) sprach öffentlich deutliche Worte gegen die Angriffe auf die Kirche und ihre Einrichtungen, aber auch gegen die Ermordung des sogenannten „lebensunwerten Lebens". Nach dem Krieg stellte sich dem Bistum die Aufgabe des Neuaufbaus (die Stadt Mainz wurde 1945 total zerstört) und der Integration vieler Heimatvertriebener.
Über die Grenzen des Bistums Mainz hinaus bekannt wurde der Nachfolger von Bischof Stohr, Bischof Hermann Kardinal Volk (Amtszeit: 1962-1982). Er spielte beim Zweiten Vatikanischen Konzil in Rom (1962 - 1965) und seinen Reformen eine wichtige Rolle und setzte sich besonders für das ökumenische Gespräch ein.
Seit 1983 ist Prof. Dr. Dr. Karl Lehmann Bischof von Mainz. Von 1987 bis 2008 war er Vorsitzender der Deutschen Bischofskonferenz. Herausragende Ereignisse für das Bistum Mainz seit dieser Zeit sind der 93. Deutsche Katholikentag 1998 in Mainz, die Feiern zur Kardinalserhebung des Bischofs 2001, die Bischofsweihen der beiden Weihbischöfe Ulrich Neymeyr und Werner Guballa (+2012) im April 2003 und die Bistumsfeste zum 70. Geburtstag des Kardinals 2006, aus Anlass des Silbernen Bischofsjubiläums 2008 sowie zu seinem 75. Geburtstag 2011. Im Jahr 2009 feierte das Bistum das 1000-jährige Bestehen des Mainzer Domes.
Die "Mainzer Heiligen" boten immer wieder Anlass zur besinnenden und vergegenwärtigenden Rückschau: 2004 der 1250. Todestag des Heiligen Bonifatius, 2006 das Gedenkjahr zum 1150. Todestag des hl. Rhabanus Maurus und 2011 der 1000. Todestag des Heiligen Willigis, des Erbauers des Mainzer Domes.
2012 hat Papst Benedikt XVI. die "Mainzer" Heilige Hildegard von Bingen in das Verzeichnis der Heiligen der Gesamtkirche aufgenommen und zur Kirchenlehrerin erhoben.
Im Oktober 2013 ist Kardinal Lehmann 30 Jahre Bischof von Mainz und 50 Jahre Priester.
Zur Geschichte des Bistums Mainz sind bis 1995 fünf farbig bebilderte und übersichtlich gestaltete Hefte unter dem Titel „Kirche auf dem Weg: Bistum Mainz" erschienen. Andere Publikationen zur Mainzer Kirchengeschichte erscheinen u.a. in der Reihe "Mainzer Perspektiven aus der Geschichte des Bistums", im "Archiv für Mittelrheinische Kirchengeschichte" sowie anderen Veröffentlichungen, die vom Institut für Mainzer Kirchengeschichte (Tel. 06131/253-531; Postfach 1560, 55005 Mainz) herausgegeben werden.