W roku 1904 Henryk Goldszmit pojechał pierwszy raz z ubogimi, żydowskimi dziećmi na wieś do „Michałówki”- ośrodka kolonijnego dla dzieci żydowskich. Wakacje te organizowało Warszawskie Towarzystwo Kolonii Letnich - organizacja społeczna zarejestrowana w 1897 roku, która pozyskiwała fundusze dla potrzebujących żydowskich dzieci na letnie wyjazdy. Goldszmit jako wychowawca musiał wywiązać się z wielu obowiązków, gdyż Towarzystwo stawiało wysokie wymagania kandydatom na wychowawców zwanych „dozorcami”. Po przedstawieniu stosownych rekomendacji doktora Juliana Kramsztyka - ordynatora Szpitala dla Dzieci imienia Bersonów i Baumanów w Warszawie przy ulicy Śliskiej 51, Henryk Goldszmit udał się na czterotygodniowe wakacje w charakterze „wychowawcy - dozorcy”. Juliana Kramsztyka poznał na kursach doskonalących dla studentów medycyny. Znajomość, mimo różnicy wieku przerodziła się w przyjaźń. Pobyt w „Michałówce” zaowocował cyklem reportaży, które między październikiem a grudniem 1904 roku zostały opublikowane w piśmie „Izraelita”. W nich opowiadał czytelnikom - nowoczesnym Żydom - o ich ubogich współplemieńcach, uświadamiał istnienie biedoty i jej potrzeby. W tym czasie publikował też felietony w „Kolcach” i pisał w „Głosie”. Problematyka poruszana przez niego związana była z życiem codziennym zwykłych ludzi, którzy borykali się z licznymi trudnościami, głodem, brakiem opieki.

W 1907 roku Henryk Goldszmit został członkiem Towarzystwa „Pomoc dla Sierot”, założonego rok wcześniej przez cieszących się autorytetem warszawskich Żydów. Towarzystwo obejmowało opieką najbiedniejsze dzieci wyznania mojżeszowego, budowało przytułki i sierocińce. Henryk Goldszmit pewnego dnia udał się za namową doktorowej Eliasbergowej (żony współpracownika ze szpitala Izaaka Eliasberga) do prowadzonego przez nią sierocińca na ulicy Franciszkańskiej. Tam oglądał przedstawienie przygotowane przez wychowanków dla mieszkańców miasta. Wówczas poznał Stefanię Wilczyńską, przyszłą wieloletnią przyjaciółkę i współpracownicę. W tym czasie dawał dużo publicznych odczytów, które dotyczyły problematyki wychowania i opieki nad dziećmi. W osobie Stefanii Wilczyńskiej odnalazł pokrewną duszę, która podobnie jak on była wrażliwa na los najmłodszych.

Po wyborze w czerwcu 1909 roku do Zarządu Towarzystwa „Pomocy dla Sierot” rozpoczął staranie w kierunku utworzenia kompleksowego ośrodka opiekuńczo - wychowawczego dla żydowskich dzieci. Henryk Goldszmit zdecydował się objąć kierownictwo w dopiero budowanym (na placu przy ulicy Krochmalnej 92) ośrodku zwanym Dom Sierot.

W grudniu 1915 roku trzydniowy urlop postanowił spędzić w Kijowie, gdzie odwiedził polską kolonię. Trafił do Wacławy Peretjatkowicz, założycielki i dyrektorki polskiego gimnazjum żeńskiego, która skierowała go do internatu dla polskich uczniów szkoły rzemieślniczej. Tam poznał Marię (Marynę) z Rogowskich Falską. W ciągu trzydniowego pobytu pomógł znacząco w zorganizowaniu życia placówki zamieszkanej przez 60 chłopców. Tak narodziła się przyjaźń pomiędzy obojgiem pedagogów.

Wspierał również Marię Czapską w kierowaniu Schroniskiem Świętego Józefa dla chłopców, które mieściło się na ulicy Krochmalnej.

Henryk Goldszmit był współzałożycielem domu dla dzieci polskich Nasz Dom w Pruszkowie, który funkcjonował w latach 1919 -1936 jako sierociniec i szkoła. Po otwarciu 15 listopada 1919 roku, kierowanej przez Marię Falską placówki, współpracował z nią zapewniając wsparcie pedagogiczne i opiekę lekarską.

Henryk Goldszmit był uczestnikiem wielu ówczesnych akcji społecznych. Był członkiem Komisji do Spraw Organizacji Oświatowych, brał udział Centralnego Komitetu Pomocy dla Dzieci, działał w Polsko - Amerykańskim Komitecie Pomocy Dzieciom, czuwając nad sprawiedliwym podziałem darów dla instytucji charytatywnych.

W trudnych czasach II wojny światowej nadal zdobywał środki na zaspokojenie potrzeb Domu Sierot, którego liczba podopiecznych wzrosła. Szukał wsparcia kierując odezwy do społeczeństwa. Przejmował się losem wszystkich osieroconych dzieci, apelował o zapewnienie odpowiedniego wsparcia dla sierocińców. Organizował środki na wakacje dla dzieci z domów dziecka.