Pojam groteska dolazi od latinskog korena grotto, koji je došao od grčkoga krypte, i odnosi se na pećinu ili mesto zakopano pod zemljom. Od njega je nastala italijanska reč grottesco, što znači pećinski i francuske reči grotesque, što znači smešan ili neprirodan.
Pojam groteska se javio krajem XV veka i koristio se kao naziv za nakinđuren zidni ukras sastavljen od biljnih motiva sa viticama koji se prepliću neobično sa delovima životinja i ljudskih lica, a posredno i njihove naravi. Ovakve slikarije su bile otkrivene u oštećenim rimskim termama i palatama, koje su u kolokvijalnom diskursu nazivane pećinama (italijanski grotta), a oponašali su ih renesansni slikari. Takav tip ukrasa Vitruvije je osuđivao zato što se u njemu "na platnu radije slikaju čudovišta nego jasne slike stvarnog sveta".
Na početku je pojam groteska bio vezan isključivo uz slikarstvo, a tek kasnije je počeo da označava svaki oblik suprotstavljanja opšteprihvaćenim normama i vrednostima, odnosno uverenju da stvarni svet počiva na razumskim osnovama. Mišel de Montenj je u XVI veku prvi preneo značenje ove reči na vrludavi, čudovišni stil argumentacije svojih eseja, obeležen spajanjem "rogova u vreći". On je tako podstakao širenje ovog pojma na različite umetnosti i njegovo trajno povezivanje sa karakteristikama raznorodnosti i protivurečnosti među elementima odgovarajućih dela.
U estetičkom razmišljanju groteska je bila najbliža pojmu uzvišenoga koji na sličan način ujedinjuje obeležja odbojnosti i privlačnosti. Među likovnim umetnicima poznati nosioci grotesknog izraza su Hijeronim Boš, Piter Brojgel, Salvador Dali, među književnicima na primer Ernst Teodor Vilhelm Hofman, Grof de Lotreamon, Franc Kafka, Samjuel Beket, Ežen Jonesko, a među kompozitorima Moris Ravel i Hektor Berlioz.