Šioms darbo vietoms užimti reikėjo išsilavinusių vyrų ir moterų. Tad V. J. Gylys grįžęs į Lietuvą greit gavo tarnybą. Ėjo Lietuvos Vyriausybės Kanceliarijos viršininko pareigas. Pareigingas ir darbštus tarnautojas neliko nepastebėtas. V. J. Gylį, gerai mokantį rusų, suomių, švedų kalbas, Užsienio reikalų ministerijos (URM) vadovybė 1919 – 1921 metais paskyrė pirmuoju Lietuvos atstovu Suomijai, o nuo 1920 metų – Estijai. V. J. Gyliui 1921-ieji metai tapo lemtingais ir naujų patirčių metais. URM vadovybė trisdešimt penkerių metų diplomatą V. J. Gylį siuntė dirbti ten, kur buvo reikalingiausias: nuo 1921 m. iki 1924 m. – Karaliaučiuje, nuo 1924 m. iki 1926 m. – Danijoje (Kopenhaga), nuo 1927 m. iki 1930 m. – Latvijoje (Ryga), nuo 1930 m. iki 1932 m. – Didžiojoje Britanijoje (Londonas). Po vienuolikos darbo metų užsienyje, 1932 metais, diplomatas V. J. Gylys grįžo į Lietuvą. 1932 – 1934 metais ėjo Klaipėdos krašto gubernatoriaus pareigas, o nuo 1934 m. iki 1937 m. buvo laikinasis reikalų patikėtinis.
1937 metais V. J. Gylys, atšventęs 51-ąjį gimtadienį, sulaukė URM ministro Stasio Lozoraičio įsakymo, kad nuo 1937 metų gruodžio mėnesio jis paskiriamas nepaprastuoju pasiuntiniu ir įgaliotuoju ministru Švedijoje (rezidencija Stokholme). 1938 metų vasario 16 dieną V.J.Gylys įteikė kredencinius raštus Jo Karališkai Didenybei Princui. Diplomatinį darbą tęsė iki 1940 metų rugpjūčio 21 dienos. Nors Lietuvos pasiuntinybė Švedijoje buvo uždaryta, V. J. Gylys į Lietuvą negrįžo. Pasiliko gyventi Stokholme. Palaikė diplomatinius ryšius su užsienyje dirbusiais įgaliotaisiais ministrais. Itin glaudus ryšys jį siejo su įgaliotuoju ministru, atstovu prie Tautų Sąjungos Eduardu Turausku Šveicarijoje. Siuntė kolegai korespondencijas, gautas iš Lietuvos ir kitų šaltinių.