När det gäller fossilregistret drog New York den korta änden av pinnen: Empire State är rik på små, marina bostäder ryggradslösa döttrar till tidigt Paleozoic era, hundratals miljoner år sedan, men ger en virtuell blank när det kommer till dinosaurier och megafauna däggdjur. (Du kan skylla på New Yorks relativa brist på sediment som samlats under mesozoiska och Cenozoic Eraser.) Fortfarande är det inte att säga att New York helt saknade förhistoriskt liv, några anmärkningsvärda exempel som du kan hitta på följande bilder. (Se en lista över dinosaurier och förhistoriska djur som upptäckts i varje amerikansk stat.)
För drygt 400 miljoner år sedan, under Silurian period, var mycket av Nordamerika, inklusive New York State, nedsänkt under vatten. Den officiella statliga fossilen i New York, Eurypterus, var en typ av marint ryggradslösa djur som kallas en havsskorpion och var en av de mest fruktade undervattensrovdjuren innan utvecklingen av förhistoriska hajar och jätte marina reptiler. Vissa exemplar av Eurypterus växte till nästan fyra meter långa och dvärgade den primitiva fisken och ryggradslösa djur som de bytte på.
Det är inte ett välkänt faktum, men olika dinosaurie fotspår har upptäckts nära staden Blauvelt, i New Yorks Rockland County (inte så långt från New York City). Dessa spår går till sent Triassic period, ungefär 200 miljoner år sedan, och inkluderar några främmande bevis för att roving paket med Coelophysis (en dinosaurie som är mest känd för sin utbredning i avlägsna New Mexico). I väntan på avgörande bevis för att dessa fotavtryck verkligen fastställdes av Coelophysis föredrar paleontologer att tillskriva dem en "ichnogenus" kallad Grallator.
1866, under byggandet av en fabrik i New York, upptäckte arbetarna de nästan fullständiga resterna av en fem ton American Mastodon. "Cohoes Mastodon", som det har blivit känt, vittnar om att dessa jättar förhistoriska elefanter strejkade om New Yorks vidd i åskande hjordar, så sent som för 50 000 år sedan (utan tvekan tillsammans med deras nära samtida pleistocen epok, den Woolly Mammoth).
Liksom många andra stater i östra USA var New York relativt ljummet, geologiskt sett, tills den sena Pleistocene-epoken - när den korsades av alla slags megafauna däggdjur, från mammuter och mastodoner (se tidigare bilder) till sådana exotiska släkter som Jätte kort ansikte björn och den Jättebäver. Tyvärr utrotades de flesta av dessa plusstorta däggdjur i slutet av den senaste istiden och gav efter för en kombination av mänskligt predation och klimatförändringar.