Geologialla on hyvin pitkä historia. Sen juuret ulottuvat antiikin Kreikkaan. Theofastos tutki kiviä jo ennen ajanlaskun alkua. Samoin roomalainen Plinius tutki geologiaa ajanlaskun alun aikoihin. Geologian tulkitaan alkaneen laajemmin islamilaisessa maailmassa keskiajan alkuaikoina. Myös Kiinassa, esimerkiksi Shen Kuo tutki geologiaa.

Keskiajan loppupuolella geologisen tutkimuksen painopiste siirtyi Eurooppaan. Terminä geologia on myös peräisin keskiajan loppupuolelta. Ensimmäisen kerran termiä käytti Richard De Bury ja nykyisessä merkityksessä sitä käytti ensimmäisenä Jean-Andre de Luc. Tärkeänä tutkijana pidetään esimerkiksi skotlantilainen James Hutton. Aiemmin maan ymmärrettiin olevan 6000 vuotta vanha, mutta Huttonin mukaan maankuori on ollut jatkuvassa muutoksessa, jota sisäinen lämpö liikuttaa. Hutton teki päätelmänsä hänen tutkiessaan eroosiota – hän tuli siihen tulokseen, että maanpinnan tulisi olla täysin tasainen jos eroosio olisi ainoa maanpintaa muokkaava voima. Hutton oli sieltä mieltä, että maan sisäinen lämpö synnytti uusia vuorijonoja ja kallioita. Koska nämä prosessit ovat erittäin hitaita, Huttonin mukaan aiempi arvio maapallon iästä oli virheellinen ja tämä on täten kumottava.

Huttonin teos Theory of the Earth ilmestyi vuonna 1795. Se oli erittäin laaja ja vaikeaselkoinen teos. Huttonin elämänkerran kirjoittaja, professori John Playfair kirjoitti selkeämmän teoksen, joka saikin varsin myönteisen vastaanoton. 1800-luvulla geologiasta tulikin suosittu tieteenala, eikä se ainakaan aluksi pyrkinyt taloudelliseen hyötyyn.

Charles Lyell tuli tunnetuksi 1800-luvulla hänen julkaisustaan Principles of Geology. Siinä hän esitti,että geologia voidaan jakaa eri kausiksi eli epookeiksi. Näitä kausia olivat holoseeni, pleistoseeni, plioseeni mioseeni, oligoseeni ja eoseeni. Huolimatta siitä, että Lyellin nimityksiä on kritisoitu laajalti, ne ovat yhä nykyäänkin käytössä. Geologiset kaudet on myös jaettu pidempiin ajanjaksoihin: prekambrinen, paleotsooinen, mesotsooinen ja kenotsooninen.

Geologit tiesivät maapallon olevan vanha, mutta he eivät pystyneet mittaamaan kuinka vanha se todellisuudessa oli. Sen selvittämisessä käytettiin esimerkiksi valtamerien suolapitoisuuden lisääntymisen laskemista, mutta siinä ei onnistuttu. 1900-luvulla tärkeä kysymys geologiassa oli teoria mannerten liikkumisesta. nykyisen laattatektoniikan perustan hahmotteli Alfred Wegener vuonna 1915. Hänen mukaansa aiemmin oli olemassa vain yksi suurmanner, josta mantereet ovat erkaantuneet. Modernin laattatektoniikan katsotaan syntyneen vuonna 1965, jolloin kanadalainen geofyysikko John Tuzo ehdotti että mantereet ovat liikkeessä ja valtamerten keskiselänteillä tapahtuu liikkumista.