Ur. się 16 lipca 1921 r. w Grodnie. W Piastowie mieszka od 1955 r., najpierw przy ul. Harcerskiej, a następnie Elizy Orzeszkowej.
Przed wybuchem II wojny światowej ukończył 3 klasy Gimnazjum Mechanicznego w Białymstoku; po wkroczeniu wojsk sowieckich aresztowany za działalność w ZHP, gdzie był m.in. organizatorem obozów; w lipcu 1939 r. otrzymał tytuł Harcerza Orlego. W 1964 r. ukończył Technikum Ekonomiczne w Warszawie, a w 1948 r. kurs wojskowo - kolejowy w Szkole Oficerskiej Artylerii i wtedy też został awansowany do stopnia podporucznika LWP.
W czasie okupacji hitlerowskiej rozpoczął pracę zawodową na przesuwni elektrycznej wagonowni w Starosielcach. Po przejściu frontu wschodniego w 1944 r. wstąpił do zmilitaryzowanej Służby Ochrony Kolei Oddziału Białostockiego; był m.in. komendantem wartowni w Narewce. Później pełnił obowiązki kierownika tzw. zwiadu w III Oddziale SOK w Siedlcach. Przeniesiony w 1953 r. do Ministerstwa Kolei był szefem zarządu polityczno-wychowawczego DOKP w Lublinie. Po 1956 r. podjął pracę w Zarządzie Głównym Związku Zawodowego Kolejarzy na stanowisku st. instruktora działu organizacyjnego. W 1965 r. brał czynny udział w organizacji VI Światowego Kongresu Związków Zawodowych obradującego w Warszawie. W 1981 r. przeszedł na emeryturę.
Józef Walter aktywnie uczestniczył w działalności politycznej i społecznej. Już 1 września 1944 r. wstąpił do Związku Zawodowego Kolejarzy, a w roku 1947 rozpoczął pracę w Miejskim Komitecie Polskiej Partii Socjalistycznej w Hajnówce. W 1955 r. podjął się pełnienia funkcji I sekretarza Polskiej Zjednoczonej Partii Robotniczej węzła w Siedlcach.
Na emeryturze był m.in. przez kilka kadencji członkiem zarządu Koła Miejskiego ZboWiD-u w Piastowie i dowódcą pocztu sztandarowego tej organizacji. W 1965 r. mianowany został na stanowisko szefa służby łączności i alarmowania Terenowego Oddziału Samoobrony w Piastowie. Organizował szkolenia tej formacji i koordynował prace przy budowie 200-metrowego wykopu pod strategiczny kabel telefoniczny w Al. Tysiąclecia. Był wiceprzewodniczącym Rady Klubu Kultury Kolejarza w Piastowie. Działał w osiedlowej i miejskiej Radzie PRON. W latach 1984-88 pełnił mandat radnego Miejskiej Rady Narodowej.
W resorcie kolejnictwa przepracował 44 lata, w tym 25 w ZG ZZ Kolejarzy. Odznaczony został przez ministra kolei nagrodą pieniężną z wpisaniem do akt, otrzymał tytuł Radcy Kolei Państwowych i bezterminowy bezpłatny bilet na wszystkie relacje w klasie I. Ponadto otrzymał m.in. odznaczenia: Krzyż Kawalerski Orderu Odrodzenia Polski, Złoty, Srebrny i Brązowy Krzyż Zasługi, Medal Zwycięstwa i Wolności 1945 r., Złotą Odznakę Honorową Za Zasługi dla Warszawy, Honorowe Odznaki: Związków Zawodowych, PTTK, Federacji Turystyki i Sportu Kolejarz, Złotą i Srebrną Odznakę "Przodujący Kolejarz".
Józef Walter zmarł 05.02.2008 roku.