Gyerekkorától botanizált, Bécsben és Kolozsvárott tanult, majd egyévi mérnöki tanulmányok után katona lett. Állomáshelyein rendszeresen kutatta a környék flóráját, és sok ritka növényt fedezett fel. 1870-ben Haynald érsek pártfogására és alapítványa segítségével Janka az önállósult Növénytár élére került, és innen ment nyugdíjba 1889-ben.Számos hazai és külföldi gyűjtőúton gyarapította a gyűjteményt, 1871–72-ben a Balkán flóráját kutatta. Kortársai a magyar flóra egyik legjobb ismerőjeként tartották számon. Számos hazai és balkáni fajt írt le, például a magyar kikericset. Több növényfajt neveztek el róla.
