Nallıhan, Karadeniz Bölgesinin Batı Karadeniz Bölümünde yer alır. İlçe toprakları, ilin batıya uzanan bölümü içindedir. Hudutları 39°70'-40°50' kuzey enlemleri ile 30°70'-32°00' doğu boylamları arasında kalır. Ankara-Eskişehir-Bolu üçgeninin ortasında yer alan Nallıhan'ın doğusunda Beypazarı, kuzey ve kuzeybatısında Seben, Mudurnu ve Göynük, güneyinde ve güneybatısında ise Mihalıççık ve Sarıcakaya ilçeleri ile sınırı vardır. İlçe merkezinin deniz seviyesinden yüksekliği 625 m yüzölçümü 1978 km² dir.
DİE nüfus istatistikleri incelendiğinde Nallıhan'ın yüzölçümünün, komşu ilçeler Göynük ve Mudurnu'dan katılan köylerle giderek arttığını görüyoruz. İlçenin yüzölçümü 1940'tan önce 1250 km², 1945'ten sonra 1653 km², 1955'ten sonra da 1978 km² olmuştur.
Nallıhan ilçe merkezi, ilçenin çok yakınından geçip Sakarya Nehrine dökülen Nallı Çayı vadisinde, doğu ve kuzeyi yüksek dağlarla çevrili çukur bir sahada kurulmuştur. Ankara'nın en eski ve güzel bir ilçesidir. Ankara-İstanbul arasındaki 1 nolu devlet yolu üzerinde kurulu olan ilçe, Ankara'ya 160 km, Bolu'ya 90 km, Eskişehir'e 130 km uzaklıktadır.
İlçe toprakları tepe ve düzlüklerle kaplıdır. Arazi, güneyde Sakarya vadisine doğru alçalan az yüksek dağların bulunduğu, yer yer tekne biçimli düzlük ve hafif dalgalı yer şekillerini içine alır. Bu platolar Nallıhan ile Mudurnu arasındaki dağlardan Sakarya'ya doğru inen bir çok akarsularla kuzey güney doğrultulu vadiler halinde yarılmıştır. Eskişehir ili sınırı boyunca doğu-batı doğrultusunda derin vadi içinde akan Sakarya'nın bu kesiminde Sarıyar ve Gökçekaya barajları yer almaktadır. Akarsu vadileri ekime elverişli düzlüklerdir.
İlçe toprakları tepe ve düzlüklerle kaplıdır. Arazi, güneyde Sakarya vadisine doğru alçalan az yüksek dağların bulunduğu, yer yer tekne biçimli düzlük ve hafif dalgalı yer şekillerini içine alır. Bu platolar Nallıhan ile Mudurnu arasındaki dağlardan Sakarya'ya doğru inen bir çok akarsularla kuzey güney doğrultulu vadiler halinde yarılmıştır. Eskişehir ili sınırı boyunca doğu-batı doğrultusunda derin vadi içinde akan Sakarya'nın bu kesiminde Sarıyar ve Gökçekaya barajları yer almaktadır. Akarsu vadileri ekime elverişli düzlüklerdir. Yükseklik kuzeyden güneye doğru giderek alçalır. Ayman ve Çayır Kırı düz ovalardır. Dağların uzantısı doğu batı yönlüdür. Köroğlu dağlarının uzantısı olan Karakiriş dağının en yüksek tepesi Sarıkaya Köyünün güneyinde 1507 m dir. Sarıçalı Dağının tepesi ise 1710 m dir. Nallı Çayı batısında yer alan tepelerin en yüksek olanı Karakuz tepesidir ve 1595 m dir. İlçenin güney sınırını oluşturan Sarıyar ve Gökçekaya Baraj göllerinin su yüzeyi 600metrenin altındadır. Yenice Köyü yakınında Sakarya vadisinde yükseklik 230 metreye kadar düşmektedir.