Hilibi Haller Károly tanulmányait Nagybányán, a minorita gimnáziumban kezdte, majd 1853-ban a szatmári Katolikus Főgimnáziumban tett érettségit. Ezt követően visszatért szülővárosába, ahol az 1851-ben megnyílt német tannyelvű Császári és Királyi Jogakadémia diákja lett. Három év alatt szerzett diplomát, majd 1856. szeptemberében a nagyszebeni kincstári ügyészségen felesküdött tisztviselőnek. Az ifjú jogász azonban nem a hivatali pályát választotta, hanem beiratkozott a pesti egyetemre rendkívüli hallgatónak, ahol néhány év után megszerezte a jogi doktorátust. 1863-ban megnyitották a magyar tannyelvű Királyi Jogakadémiát Kolozsváron, itt Haller helyettes tanári kinevezést kapott. Azonnal bekapcsolódott a város politikai, társadalmi, kulturális életébe és élete végéig annak tekintélyes vezetője maradt. 1865-ben beválasztották a várost vezető százas tanácsba.

Felesége komjátszegi Szentkirályi Gizella volt, két gyermekük született: Károly és Irma.

1873-ban, az újonnan alapított Kolozsvári Magyar Királyi Tudományegyetemen a magánjog rendes tanárává nevezték ki. A jog- és államtudományi kar dékáni tisztségét két alkalommal, az 1873-74-es és 1890-91-es tanévben töltötte be, közben 1880-81-ben ő volt az egyetem rektora is. Egyetemi tanári pályája mellett a kolozsmonostori állami tanintézetnél is oktatott három évtizeden keresztül (1871-1901). Ennek köszönhetőek olyan, a gazdasági élet területéről írt munkái, mint Az agrarialis törvényekről, az Iparunk föllendülésének tényezőiről s akadályairól, vagy A gazdasági értékekről.

Oktatói és tudományos munkássága szorosan összefonódott egymással, épp abban az időszakban, amikor a magyar nyelvű jogtudomány még csak kibontakozóban volt. 1853-ban Magyarországon és Erdélyben is hatályba léptették az Osztrák Polgári Törvénykönyvet (OPTK). Az Országbírói Értekezlet ugyan 1861-ben hatályon kívül helyezte az OPTK-t, Erdélyben azonban továbbra is hatályban maradt. 1868-ban ezt megerősítették, azzal a megszorítással, hogy ha a Magyar Országgyűlés a magánjog bármely területén új törvényt alkotna, akkor azt már Erdélyben is alkalmazni kellett. Amikor Hallert 1863-ban kinevezték a kolozsvári jogakadémia tanárának, akkor az osztrák magánjog, a kereskedelmi és váltójog, valamint a bányajog tanszéket kapta meg. Ez tudományos pályáját is meghatározta, hiszen az ausztriai magánjogot nemcsak elméletben oktatta, hanem a gyakorlatban is alkalmazta. Jogakadémiai tanárságának az elején jelentette meg az első OPTK kommentárt, amelyet kibővített az erdélyi gyakorlati tapasztalatokkal. 1884-ben ismét megjelentetett egy OPTK-t feldolgozó művet – Az osztrák általános polgári törvénykönyv (szövege) jelenleg még érvényes alakjában címmel – akkor, amikor már a magyar magánjogi kodifikáció első résztervezeteiről folyt a tudományos vita. Ennek részletei egyre szélesebb körben a jogásztársadalom számára is megismerhetővé váltak, többek között a Jogtudományi Közlöny szerkesztőinek a jóvoltából. Haller Károly, aki 1873-tól rendszeresen publikált a fenti szaklapban, szintén hozzászólt, véleményt alkotott az említett tervezetekről. Nem a mai értelemben vett tanulmányokat írt az egyes magánjogi intézményekről, hanem a tervezetben megfogalmazott szabályokhoz fűzött rövidebb, hosszabb megjegyzéseket. Ezekből kitűnik széleskörű ismerete a kor már elkészült és a gyakorlatban is kipróbált vagy éppen ezekben az évtizedekben szerkesztett törvénykönyveiről, illetve az abban megfogalmazott és alkalmazott megoldásokról.

Haller Károly gyakran tett a magyar jogi szaknyelvre vonatkozó észrevételeket. Ebben az időszakban a magyar szaknyelvi terminológia még nem alakult ki teljesen, sokszor a német terminus technikusok szószerinti fordítását alkalmazták. Az új törvénykönyv alkotásának folyamatában Haller erre a hibás gyakorlatra is igyekezett kollégái figyelmét felhívni és több javaslatot is megfogalmazott. Erre kiváló példa a dologi jog megnevezése, amelyet az OPTK magyarországi hatálybalépését követően a „ius in rem” fordításaként „dologbeli” jognak neveztek. Haller azt javasolta, hogy helyesebb lenne a „dologi jog” megnevezés. Hasonlóképpen a személyi jog területén a „természeti” személy helyett a „természetes” személy kifejezést ajánlotta. Valóságos nyelvészeti értekezést írt a kötelmi jog tervezete kapcsán is „a közös és egyetemleges kötelmek” szóhasználatáról.

Tudományos pályája mellett közéleti tevékenysége is kimagasló volt. Egyetemi munkáján kívül igen aktívan dolgozott a városért, Kolozsvár polgármesteri tisztségét is betöltötte 1884 és 1886 között. Értékes városrendezői munkát végzett, számos intézmény, épület, műalkotás létrehozása fűződik nevéhez. A város felemelkedéséért szervezte meg a Sétatér Egyletet, illetve az ún. Szépítő Egyletet, amely kifejezetten a törvényhatóság épületeinek, utcáinak, tereinek megújításáról gondoskodott. Szervező tehetségének, kitartásának, akaratának köszönhetően olyan közösségeket, szervezeteket hívott életre, és alapított, melyek a város társadalmának és ifjúságának mindennapjaiban meghatározó szerepet töltöttek be. Gondja volt a város fejlesztésére is, melyet a vízvezeték-hálózat kiépítése, a közvágóhíd tervezése is fémjelez. 1884-ben jelent meg A középítés című munkája, amelyben Kolozsvár – mai kifejezéssel élve – modern várossá alakításának alapjait írta meg.

Lövész egyletet, korcsolya pályát és atlétikai klubot is létrehozott. Tornavívó egyletet hívott életre, valamint megépítette az ehhez szükséges tornacsarnokot. 1884-ben alapította meg az Erdélyi Magyar Közművelődési Egyletet (EMKE), melynek első elnöke, majd tiszteletbeli elnöke volt egészen 1911-ben bekövetkezett haláláig. Ennek keretei között szívügyének tartotta az iparosok és a kereskedők folyamatos „továbbképzését”, ezért éveken át felolvasó üléseket szervezett vasárnap délutánonként. Ezen kívül ő volt az Erdélyi Gazdasági Egylet intézője is. Széchenyi István emlékét nemcsak ápolta, hanem kezdeményezésére megalakult az ún. Kolozsvári Kör, amely a kaszinó elődje volt. Neki köszönhető, hogy felállításra került a Kolozsvári-testvérek híres Szent György szobrának másolata, valamint ő kezdeményezte Hunyadi Mátyás szülőházának emléktáblával való megjelölését is.

Az 1904-ben örökös főrendiházi tagsággal kitüntetett Haller Károly a főrendiház ülésezésének időszakában, 75 éves korában, Budapesten halt meg 1911. február 7-én. A Vaskorona-rend lovagja (1881), miniszteri tanácsos (1897), Kolozsvár díszpolgára (1905) Kolozsváron, a Házsongárdi temetőben nyugszik.