Conrad Carleson föddes 1868 i Döderhults församling, Kalmar län. Carleson tillhörde en gammal svensk adelsätt. Han föddes på en herrgård i Döderhults socken. Han var son till en ryttmästare. Carleson hade ett omväxlande arbetsliv. Han var statsråd (liberal), företagsledare, förläggare och tjänsteman.
Carleson var extra ordinarie kammarskrivare vid tullkammaren i Norrköping 1888-1889 och tog hovrättsexamen i Lund 1893. Han var amanuens i finansdepartementet och domänstyrelsen 1897, ombudsman och fiskal i domänstyrelsen 1909-1910 samt sekreterare i bankinspektionen 1906-1910. Carleson var expeditionschef i finansdepartementet 1909-1910, kammarrättsråd 1910, ledamot av åtskilliga skattekommissioner 1906-1916, av pensionsfondskommissionen 1915 och av arbetslöshetsutredningen 1927.
Han var verkställande direktör i AB P. A. Norstedt & söner och i AB Hiertas bokförlag 1910-1933 samt i AB Svenska bokförlaget 1928-1936. Carleson var också ordförande i Sveriges litografiska tryckerier. Han var styrelseordförande för Nya bokförläggarföreningen 1910 samt Svenska bokförläggarföreningen 1912-1934. Som politiker var han främst inriktad på skatte- och arbetsrättsliga frågor
Carleson var statsråd och finansminister 30 mars till 19 oktober 1917, riksdagsledamot (andra kammaren) för Stockholms stads valkrets 1929-1936, fram till 1934 för Liberala riksdagspartiet och därefter för det nybildade Folkpartiet.
Carleson gifte sig 1900 med friherrinnan Theresine Cederström (1868-1930), dotter till löjtnant friherre Edvard Cederström och friherrinnan Märtha Leijonhufvud.
Conrad Carleson var en av grundarna av föreningen Norden. Enligt föreningens förste sekreterare – Nils Herlitz – var han en ledande kraft i den svenska styrelsen under hans tid. Och han verkade med stort intresse i föreningen Norden under mer än två årtionden. Enligt Herlitz avskydde offentligt framträdande och var bara för en kort tid – 1924-25 – föreningens ordförande. Han kvarstod efter ordförandetiden som föreningens vice ordförande, enligt Herlitz ”verksam på det tillbakadragna men allvarliga sätt som var karakteristiskt för honom” (Herlitz sid 203).
Carleson avled 1954 i Södermanlands län.