Nemes Kövy Péter és Zöld Katalin fiaként született Nádudvaron. Alapfokú tanulmányait szülővárosában végezte, majd 10 éves korától Debrecenben tanult. Teológiát és bölcseletet hallgatott, majd – mivel szülei nem tudták anyagilag támogatni – 3 évig Sarkadon helyezkedett el tanítóként. Később ebből finanszírozta pozsonyi jogi tanulmányait. Tanárai ösztönzésére a jogi pályán maradt, és Pesten ügyvédi vizsgát tett. Mégsem ügyvédként, hanem magántanárként helyezkedett el. Olyan neves családoknál volt nevelő, mint a Vayak, a Telekiek és a Bernáth család. Amikor Sárospatakon külön jogi tanszék felállítását tervezték, Kövyt hívták el tanszékvezetőnek. 1793. november 10-én érkezett Sárospatakra, tanszékvezetői beiktatása november 15-én volt. Rövid, lényegre törő beiktatási beszédével azonnal megnyerte a hallgatóságot. Ugyanez év november 18-tól, 36 éven keresztül tanította Sárospatakon a magyar jogot.
A sárospataki jogakadémia kiindulópontja volt a hazai protestáns jogi oktatásnak, így Kövy beiktatása jelentős állomás volt a magyarországi jogászképzés fejlődésében. A magyar jogon kívül Kövy még jogbölcseletet, politikát, nemzetközi jogot és statisztikát is oktatott. Több ezer tanítványa között számos híresség is fellelhető. Tanította többek között Kossuthot, Szemere Bertalant, gr. Teleki Lászlót és Fáy Andrást is. Tanítási módszerének lényege az volt, hogy nem bemagoltatni, hanem megértetni szerette volna a hallgatósággal az anyagot. Növendékeiből iskola-vármegyét és királyi ítélőtáblát alakított Páncél vármegye és Páncél királyi ítélőtábla néven. Kezdeményezésével mintául szolgált a később létrejövő ifjúsági önképzőköröknek. A tanítás mellett időnként jogi szakvéleményeket is adott elöljáróságának egyes peres ügyekben, emellett résztvett annak a bizottságnak a munkájában is, amely a Magyar Tudományos Akadémia alapszabályának megalkotásán dolgozott. Előadásait latin nyelven tartotta és nagy ellensége volt a nyelvújításnak.
Meggyengült egészségére hivatkozva 1829. április. 23-án beadta lemondását, melyet a július 13-án történt ismételt benyújtást követően fogadott el az egyházkerület. Egy napra rá, 1829. július 24-én, Sárospatakon elhunyt.