Gelgaudiškio dvaro vardas pirmą kartą paminėtas 1599 m. Dvaro rūmai stovi gražioje vietoje – ant aukšto Nemuno slėnio šlaito. Rūmai mūriniai, pailgo stačiakampio plano, vienaaukščiai. Abu rūmų fasadai – su kolonomis, dailiomis baliustradomis, gražiais metalo dirbiniais ir kitais puošybos elementais, kurie dar išsilaikę iki čių dienų. Rūmus supa senas parkas, pasižymintis sudėtinga struktūra. Čia griežtos geometrinės formos pereina į natūralią Nemuno šlaitų girią. Pagrindinė parko ašis – ketureilė sidabrinių klevų alėja, kertanti j Nemuną atkreiptus rūmus iš pietų pusės. Šiuo metu dvaras apleistas ir jo likimas neaiškus.