Talberg var assistent hos blant annet Fin Wollebæk omkring 1910 og Henrik Bull omkring 1911, begge i Kristiania. Han var tegnesjef ved Kristiania Boligraads arkitekturavdeling fra 1915 og senere ansatt hos boligdirektøren i Kristiania og som avdelingsarkitekt hos Byarkitekten i Oslo.
Som tegnesjef i Kristiania Boligraad leverte han utkast til og ledet arkitektarbeidet for den største delen av kommunens boligbygging, blant annet hagebyanlegg, først og fremst Ullevål Hageby (1915-22) hvor Harald Hals var hovedansvarlig. Talbergs største selvstendige arbeid var en del av bygningene ved Jubileumsutstillingen 1914. De fleste av dem var i likhet med Henrik Bulls bygninger der, hovedsakelig preget av senjugendstil. Talbergs hovedinngang derimot var mer preget av den nasjonale nybarokken og således mer i pakt med de øvrige arkitektenes arbeider.
