1931 m. liepos 19 d. Perlojoj atidengtas paminklas Lietuvos kunigaikščiui Vytautui Didžiajam su užrašu: "Vytautai Didysai! Gyvas būsi, kol gyvas nors vienas lietuvis". Sovietų valdžia bandė nugriauti paminklą, tačiau karingi perlojiečiai su šakėm stojo ginti, o ir paminklas pasirodė neprastas- jame įlieti geležinkelio bėgiai ir daug armatūros.