Tanulmányait a budai Evangélikus Elemi Iskolában kezdte, majd a II. kerületi Főgimnázium elvégzése után a József Műegyetemen szerzett építész diplomát, ahol többek között Jakab Dezső, Komor Marcell, Jámbor Lajos és Hegedűs Ármin évfolyamtársa volt. Mesterei Schnédár János, Steindl Imre és Pecz Samu voltak, akik hamar felfigyeltek tehetségére. A historizmus fénykorába és a műemlékvédelem hőskorába „csöppenő” Sándy a középkori építészet elszánt híve, Steindl Imre mellé szegődött aki révén még hallgatóként néhány kőfaragó tervével részt vehetett az Országház építésében. Pályakezdőként egyetemi professzoránál, Pecz Samunál helyezkedett el, ahol csakhamar fontos tényezővé vált. Erős hivatástudata mellett szenvedélye volt a fényképezés, az első gépét maga tervezte és építette. Az általa tervezett épületeket építés közben is fotografálta, dokumentálta.
1889 és1899 között műegyetemi tanársegéd volt Pecz Samu Középítéstani Tanszékén. 1899 és1914 között a Felső Építőipar Iskola tanára, majd 1914-től nyugdíjba vonulásáig, 1939-ig a Műegyetem II. Épületszerkezettan Tanszékének nyilvános, rendes tanára volt. Ekkor jelentette meg Fejezetek az épületszerkezetek köréből és az Újabb és különleges épületszerkezetek című tankönyveit, valamint Épületszerkezettani táblák címmel kiadta egyetemi előadásainak nagy részét. Számos társadalmi, szakmai és egyházi tisztséget is betöltött még ezeken kívül; volt a Magyar Mérnök és Építész Egyesület titkára, a Magyarországi Evangélikus Egyház főépítésze (és így számos budapesti és pestkörnyéki evangélikus templom tervezője), illetve a nagytarcsai evangélikus gyülekezet felügyelője, egyúttal számtalan cikket publikált, részt vett az első hivatalos építési szabályzat létrehozásában is. Ezeken felül igyekezett minden létező fórumot igénybe venni, hogy egy-egy budapesti épület vagy városrész hibáit orvosolják. Tanácsadással, tanulmányok megjelentetésével is segítette az evangélikus templomépítészetet, melyen belül külön súlyt fektetett az építészeti és belsőépítészeti tervek összehangolására, a liturgiának legmegfelelőbb elrendezésre. Társszerzőként vett részt az ezeket dokumentáló Kemény-Gyimesy féle Evangélikus templomok című kötet elkészítésében is.
Részt vett számos hazai és nemzetközi pályázaton is, többnyire egyedül, vagy barátjával, Foerk Ernővel közösen, melyeket számtalan díjat és elismerést nyert. Műemlék-felújítások mellett rengeteg épületet tervezett, köztük számtalan budapesti, illetve Pest megyei evangélikus templomot (pl. Nagykőrösi református templom), iskolát, egyéb közösségi intézményt, illetve a Moszkva téri, a zágrábi és az újpesti Postapalotákat vagy a Daruvári kastélyt.
A második világháborúban, Budapest ostromakor találat érte házát, melyben terveinek, fényképeinek jelentős része dolgozószobájával együtt megsemmisült. Égi üzenetként értelmezte azt, mikor a romok eltakarításakor, egy kidőlt ajtólap alá szorulva megtalálta körzőkészletét, így munkáját a háború után is folytatta. Amerikába disszidált lánya számára kezdte el írni emlékiratait, melyben aprólékosan írt családjáról, munkájáról, mestereiről, utazásairól, a korabeli Budapest városrendezési kérdéseiről, első megvalósult terveiről, ez azonban halála miatt befejezetlen maradt.
