일본열도는 4개의 큰 섬, 즉 홋카이도, 혼슈, 시코쿠, 규슈와 오키나와를 비롯한 약 6,852개의 수많은 섬으로 이루어져 있으며 총면적은 377,855㎢이다. 이 면적은 한반도의 약 1.7배이며, 23만㎢인 혼슈는 한국과 비슷한 크기이다. 세계적으로 보면 프랑스, 영국, 벨기에, 이탈리아 등과 비슷하며 그 면적으로 보아 세계 190개 국 중 60번째 정도로 중상 정도의 크기이다. 일본 국토의 경위도는 동경 123∼154도, 북위 20∼46도의 사이에 위치하고 있다. 최북단에는 홋카이도 소속의 에토로프도(일본이 러시아에 대해 영유권을 주장하고 있는 섬)가 있고, 서남쪽에는 난세이제도가 있으며, 최서단에는 오키나와현 소속의 요나구니(與那國)섬이 있다.

또한 동쪽의 태평양 측에는 오가사와라제도가 있는데, 그 최남단에는 도쿄도(東京都) 소속의 오키노도리(沖の鳥)섬이 있고 최동단에는 도쿄도 소속의 미나미노도리(南の鳥)섬이 있다. 요나구니섬은 오키나와현 소속으로 날씨가 좋으면 육안으로 타이완이 보일 정도로 근거리에 있고, 오키노도리섬은 일본 본토보다 미국령 괌에 더 가깝다. 홋카이도 북쪽에서 규슈 남단까지는 1,800㎞, 일본 최북단에서 오키나와 최남단까지는 3,500㎞의 거리이다. 이에 비해 폭은 매우 좁아서 가장 넓은 곳이 300㎞ 남짓이다.

일본 국토는 활발한 지각변동으로 생성되었고, 격렬한 조산(造山) 활동으로 일본의 산지가 생성되었다. 이들 산지는 많은 강우량으로 침식되었는데, 그 속도는 전 지구의 평균 5∼8배에 해당되어 매우 활발한 편이다. 일본의 지형은 국토의 71%가 산지이고 평야는 13%이며, 특히 산지는 경사가 급하고 험하여 경제활동을 영위할 수 있는 지역은 전 국토의 21% 정도에 지나지 않는다. 혼슈 중앙부는 히다(飛彈) 산맥, 기소(木曾) 산맥, 아카이시(赤石) 산맥 등 3,000m를 넘는 높은 산지로 이루어져 있는데, 이를 일본알프스라 부른다. 이처럼 험악한 산지뿐만 아니라 기타카미(北上) 고지나 아부쿠마(阿武喂) 고지처럼 평평한 산지도 있고, 후지산이나 아소산(阿蘇山) 등과 같이 넓고 평평한 산자락을 가진 화산활동으로 만들어진 곳도 많다.

일본의 하천은 경사가 급하고 험한 산지가 해안까지 뻗어 있어 길이가 짧고, 폭포와 같이 흐름이 급하다. 산지에서 대량의 토사가 하천에 공급되기 때문에 하천이 작은 데 비해 운반하는 토사량은 많아 지형의 변화가 심하다. 강수량은 비가 내리지 않는 평소는 매우 적고, 초봄의 해빙기나 장마전선, 태풍이 올 때는 갑자기 물이 불어나 홍수가 발생하기 쉽다. 유역(강에 강수가 흘러 들어가는 범위)의 넓이는 유량에 영향을 미친다. 예를 들면 게이한신(京都, 大阪, 神戶)의 번영을 뒷받침하는 있는 요도가와(淀川)는 길이가 짧고 유역 면적이 넓기 때문에 유량이 많다. 일본의 강은 나일강(6,690㎞), 아마존강(6,300㎞), 미시시피강(6,210㎞)에 비하면 매우 길이가 짧다. 일본에서 가장 긴 강인 시나노가와(信濃川)는 367㎞이다.

일본의 평야는 산지가 많은 관계로 전 국토의 4분의 1 정도이다. 일본의 산지는 지형이 높고 급하기 때문에 대부분 산지에서 실려 내려오는 토사가 퇴적되어 형성된 것이다. 따라서 일본의 평야는 해안 평야나 산간의 분지, 그 이외에도 강의 상류에서 옮겨온 자갈이나 토사가 쌓여 생기는 산지의 출구인 선상지(扇狀地)나 하구(河口) 근처의 삼각주 등이 있다. 이들 삼각주나 평야도 대륙에서 보는 것만큼 그다지 크지 않다.

그러나 토사가 퇴적된 것이기 때문에 평야가 비옥한 편이다. 일본을 대표하는 큰 평야는 홋카이도의 이시가리(石狩) 평야, 혼슈의 간토(關東) 평야, 노비(濃尾) 평야를 들 수 있다. 특히 평야 중에서도 예로부터 수자원이 풍부한 곳에는 벼농사가 발달되었다. 니가타, 아키타, 야마가타, 미야기 등 도호쿠 지방의 4개 현은 대표적인 쌀 생산지이다. 재배 면적으로 볼 때는 홋카이도가 일본 최대의 쌀 생산량을 자랑한다.

일본은 다른 나라에 비해 생산기술의 발달과 품종개량으로 인하여 경지 면적에 비해 쌀 수확량이 많은 편이다. 1960년대 후반에는 최고의 쌀 생산량을 기록했는데, 일본의 식생활 구조가 서구화됨에 따라 쌀 소비량이 줄어들어 1970년대는 정책적으로 벼농사를 줄이고 다른 작물 재배로의 전환을 추진했다. 그러나 일본은 주식인 쌀을 자급하기 위해 일정한 쌀 생산량을 확보하고 있다.