地下鉄九段下駅の西、徒歩3分。靖国通りに面した小さな九段坂公園内にある。大山巌は元帥・陸軍大将で、陸軍大臣・内務大臣を努めて元老となった。日露戦争では満州軍総司令司令官となった。 像は大正8年(1919年)に建設されたが戦時中の金属供出で撤去され、戦後に再建された。はじめは国会前庭にあったといわれるが、現在地に移設された時期は明らかではない。 木々が繁る中にあり、隣の品川弥二郎卿像と同じようにかなりの高さがある。