Das Marinefliegergeschwader 3 wurde als letzter fliegender Verband der deutschen Marine am 1. Juli 1964 als Nachfolgeverband der Marine-U-Jagdstaffel aufgestellt. Der neue Stützpunkt wurde Nordholz bei Cuxhaven. Im Zuge der Aufstellung wurde vom alten U-Jagdflugzeug Fairey A.S. 4 Gannet auf den neuen Seefernaufklärer und U-Jäger Breguet BR1150 Atlantic umgestellt. Die erste Atlantic landete am 15.07.1965 auf dem Marinefliegerhorst Nordholz. Am 30. Juni 1966 verließ die letzte Gannet das Geschwader.
Am 9. Juli 1967 wurde dem MFG 3 vom damaligen Bundespräsidenten Heinrich Lübke der Traditionsname "Graf Zeppelin" verliehen. Die Breguet Atlantic in der U-Jagd-Version sind bis 2007 ausgemustert und durch 8 P-3C Orion ersetzt worden. Bis 2010 gehörte nur noch eine Breguet Atlantic in der SIGINT-Version zum Geschwader. Seit 1981 gehören auch Sea Lynx Bordhubschrauber (aktuell 22 Maschinen in der neuen MK88A-Version) und seit 1994 auch Ölaufklärer vom Typ Dornier DO 228-212 LM/LT (aktuell 2 Maschinen) zum Geschwader. Zu den Aufgaben des Geschwaders zählt die Seeraumüberwachung und U-Boot-Jagd mit der P-3C Orion, U-Jagd von Bord der Fregatten mit dem Bordhubschrauber Sea Lynx und Ölsuche mit der DO-228.
Am 25.08.2011 findet beim MFG3 wieder das Waschhallenfest 2011 statt. Auch die Sportfluggruppe wird ein Teil ihrer Luftfahrzeuge ausstellen
