Grecsák Károly a Temesi Bánság népes városában, Versecen (ma szerbiai település) született 1854. november 15-én. Jogi tanulmányait Budapesten végezte, jogi doktorátusa mellett 1877-ben ügyvédi vizsgát tett.

Oklevelének megszerzését követően szülővárosában ügyvédi pályára lépett, melyet 1881-től 10 évre a fővárosban politikusi tevékenységgel váltott fel. 1891 júniusától ismét a jogi pályát folytatta: ekkor Szegeden táblabírói állást vállalt. 1896-tól kisegítő bíró, 1901-től rendes bíró a Kúrián, ahol 1913-tól négy évig tanácselnöki feladatait teljesítette. Kitartó munkája és tehetsége elismeréseként 1917. június 15-én az Igazságügy-minisztérium államtitkárává nevezték ki, majd két hónap múlva, augusztus 18-tól 1918. január 25-ig az igazságügyi tárca minisztere lett az egymást váltó Esterházy- és a Wekerle-kormányban. Miniszteri nyugdíjaztatásakor megkapta a valóságos belső titkos tanácsosi elismerést, ez után Budapesten ügyvédi irodát nyitva régi foglalkozását gyakorolta.

Az 1881–1884. évi ciklusban és 1887-től mérsékelt ellenzéki programmal országgyűlési képviselőnek választották meg (az 1884–1887-es parlamenti ciklusban nem jutott mandátumhoz). 1884-től 1891-ig lapalapítóként szerkesztette pártja német nyelvű közlönyét, a Budapester Tageblatt című politikai napilapot. A programadó-cikk írója, később pedig vezércikk írója volt a lapnak,  ami azzal a céllal indult el, hogy a párt programját megismertesse a német nyelvű lakossággal. 1891. május 31-én lemondott a képviselői megbízatásról és a lapszerkesztési tevékenységet is befejezve visszatért jogászi munkájához. 1918-as miniszteri nyugdíjba vonulása után ügyvédi tevékenysége mellett politikusi szerepvállalással is próbálkozott: 1920-ban alapítója, majd két évig elnöke volt a Magyar Rendpártnak, amely 1922-ben gróf Bethlen István miniszterelnök Egységes Pártjához csatlakozott.

Jogászi és politikai munkássága mellett társadalmi tevékenységet is folytatott. 1884-ben az Erzsébetvárosi Kör megszervezője. Többéves küzdelem után 1907-ben ő alapította meg az Országos Bírói és Ügyészi Egyesületet, amelynek hosszabb ideig elnöki pozícióját is betöltötte.

Jogi szakirodalmi tevékenysége főként a kereskedelmi jog, váltójog, csődjog területén bontakozott ki. 1904-től 1916-ig szerkesztője volt a Magyar Döntvénytár 21 kötetének, 1911-ben főszerkesztője a Codex Hungaricus című Magyar törvények tízkötetes gyűjteményének. 1912-től 1916-ig az Új Döntvénytár kereskedelmi jogi köteteit is szerkesztette. Kiemelendő tény, hogy 1914-től egyik alapítója, szerkesztője, majd főszerkesztője lett a Kereskedelmi Jog című szakfolyóiratnak. Számos cikke és tanulmánya jelent meg – saját szerkesztésű folyóiratán kívül – a Jogállam, a Jogtudományi Közlöny, a Magyar Pénzügy, a Pénzintézeti Szemle, a Magyar Jogászegyleti Értekezések című folyóiratokban és különböző napilapokban is.

70 éves korában, 1924. december 17-én hunyt el Budapesten. Halála után a Jogtudományi Közlöny 1925. január 1-jén, nekrológjában így méltatta pályafutását: „nem a politikát vitte be a jogszolgáltatásba és jogalkotásba, hanem a jogot szolgálta a politikában is”.