目前最早记载格罗宁根的文件约在1040年。但目前发现最古老的考古遗迹约在西元前3950至3720年。直到西元三世纪，格罗宁根才出现第一个主要聚落。
13世纪，格罗宁根成为一个重要的贸易中心，并建造城墙。该市对于周围地区有极大的影响力，让格罗宁根方言成为当地的主要语言。15世纪末，当时邻近的菲士兰省由格罗宁根管理，是格罗宁根最具影响力的时代。同一时期，格罗宁根修筑了马提尼塔，高约127米，成为当时欧洲最高的建筑物。16世纪，西班牙帝国与荷兰共和国爆发八十年战争。1594年，格罗宁根选择支持西班牙帝国，但之后改变立场，加入荷兰共和国。
1614年，格罗宁根大学成立，最初的目的是宗教教育。同一时期，城市发展快速，并兴建新城墙。1672年，第三次英荷战争爆发，格罗宁根受到明斯特主教Bernhard von Galen的猛烈攻击，但城墙成功阻挡了攻势。每年的8月28日，民众会以音乐和烟火庆祝这次胜利。
格罗宁根没有逃过二战的蹂躏。1945年4月的格罗宁根战役，城中的主广场格罗特市场广场（Grote Markt）遭到严重破坏。不过马提尼塔、马提尼教堂、Goudkantoor和市政厅都未受到破坏。这场战争持续了数天。