Im Jahr 1964 wurde erstmals der vom Deutschen Volkshochschul-Verband (DVV) gestiftete Adolf-Grimme-Preis in Marl verliehen, benannt nach dem deutschen Kulturpolitiker und ersten Generaldirektor des Nordwestdeutschen Rundfunks.

Das Institut wurde 1973 gegründet: Auf Initiative von Prof. Dr. Bert Donnepp, Leiter des Marler Bildungswerks "die insel", verabschiedete der Vorstand des DVV am 25. September eine Geschäftsordnung für das Adolf-Grimme-Institut. Dieser ist zu entnehmen: Das Institut sollte - im Medienverbund - Modelle für die Zusammenarbeit zwischen Volkshochschulen und Fernsehen entwickeln, Veranstaltungen zur Qualifizierung der Erwachsenenbildung im Umgang mit Medien organisieren sowie Arbeitsgruppen zur Programmbeobachtung gründen und betreuen. Eine weitere Aufgabe bestand in der Vorbereitung und Organisation des bestehenden Fernsehpreises. Peter von Rüden wird am 2. September 1973 eingestellt, der wenig später der erste Leiter des neu gegründeten Instituts wird. Weitere folgen.

Neben dem Qualitätsdiskurs lag bis Anfang der 1980er Jahre der Schwerpunkt der Institutsarbeit also in der Entwicklung von sogenannten Medienverbundprojekten, gemeint ist damit die Nutzung des Fernsehens als Lehr- und Lernmedium, also das Lernen „mit Medien“. Das Lernen „über Medien“ kam erst später hinzu. Ab 1983 öffnete sich das Institut weiter und bezog Presse und Hörfunk in seine Arbeit mit ein.

Ab 1990 prägte mehr und mehr der Forumsgedanke das öffentliche Engagement des Instituts. Neben dem Grimme-Preis sollten die Marler Tage der Medienkultur den Diskurs über Medien fördern. Seit 1996 engagiert sich das Institut mit der Gründung der Grimme-Akademie zudem in der Aus- und Fortbildung für die Medienbranche sowie in der Vermittlung von professioneller Medienkompetenz.

Fragen der Digitalisierung wurden immer wichtiger, was zur Jahrtausendwende in die Etablierung des Grimme Online Award einmündete. Der Grimme Online Award versteht sich – bis heute – als Qualitätspreis für Online-Publizistik und prämiert deutschsprachige Online-Angebote, die sich an die allgemeine Öffentlichkeit richten. Mit der - seit 2001 - jährlich verliehenen  Auszeichnung werden herausragender Formen und Entwicklungen öffentlicher Kommunikation und Information im Netz geehrt, womit der Grimme Online Award Anbieter*innen und Nutzer*innen eine beispielhafte Orientierung für publizistische "Qualität im Netz" bietet.

Im Jahr 2010 sind das Adolf-Grimme-Institut und das ebenfalls in Marl ansässige Europäische Zentrum für Medienkompetenz (ecmc) zu einer Institution verschmolzen. Seither firmiert das Institut als Grimme-Institut, Adolf Grimmes Vorname verschwand aus dem Institutsnamen – dem praktischen Sprachgebrauch folgend. Durch die Zusammenführung der beiden Institutionen wurde das Leistungsspektrum des Grimme-Instituts erheblich erweitert; die Arbeitsfelder Onlinekommunikation und Medienkompetenz haben deutlich an Umfang und Expertise hinzugewonnen. Durch die neue IT- und Design-Kompetenz im Hause konnten von nun an zahlreiche Online-Angebote eigenständig entwickelt werden.

Seit der ersten Preisverleihung im Jahr 2010 begleitet und betreut das Grimme-Institut zudem die Arbeit der Auswahlgremien des Deutschen Radiopreises.

Mit der Gründung des Grimme-Forschungskollegs an der Universität zu Köln Ende 2014 wurde die praxisorientierte Forschung über Medien und Gesellschaft im digitalen Zeitalter dauerhaft(er) im Grimme-Institut institutionalisiert. Das Grimme-Forschungskolleg ist eine gemeinnützige GmbH an der das Grimme-Institut und die Universität zu Köln zu jeweils 50% beteiligt sind. Mit dem Grimme-Forschungskolleg kooperieren die Philosophische, Humanwissenschaftliche, Juristische und Wirtschaftswissenschaftliche Fakultät.

Der Grimme-Preis wurde im Jahr 2015 grundlegend reformiert und an das digitale Zeitalter angepasst, indem er sich für das Netz geöffnet hat. Der klassische Fernsehapparat hat damit zwar nicht ausgedient, ist aber als Verbreitungsmedium nicht mehr entscheidend für die Teilnahme am Wettbewerb. Das Spektrum der Angebote sowie der Anbieter hat sich seitdem deutlich erweitert. Im selben Preisjahr wurde außerdem die Kategorie Kinder & und Jugend sowie die Ehrung für besondere journalistische Leistungen eingeführt

Im Februar 2017 wurde das Center for Advanced Internet Studies (CAIS) in Bochum offiziell eröffnet. Gründungsgesellschafter des Zentrums sind die Universitäten Bochum, Bonn, Düsseldorf und Münster und das Grimme-Institut. Das CAIS hat sich seitdem zu einem Ort für die interdisziplinäre Erforschung des Internets für kreative Köpfe aus dem In- und Ausland entwickelt.

Seit 2015 sind neue interne Arbeitsstrukturen des Grimme-Instituts wirksam, sie dienen der Bewältigung der Anforderungen des erweiterten Aufgabenspektrums. Dazu zählt beispielsweise die Stärkung und der Ausbau des Mediendiskurses. Ein Instrument hierfür ist der Podcast „Läuft“, der seit 2023 gemeinsam mit dem Fachdienst epd medien produziert wird.

2023 feiert das Institut seinen 50. Geburtstag – mit zahlreichen Veranstaltungen und Publikationen in unterschiedlichen Formaten.