1904년 러일전쟁이 발발하자 일본이 승리하리라고 예견한 국가는 아무도 없었다고 해도 과언이 아니었다. 일본은 전쟁에서 승리하고 세계열강으로 도약하는 계기가 되었다. 특히 일본 해군력의 급속한 발전에 서구열강은 경탄하였다.
러일전쟁 초기에 주일 브라질 공사관 무관이 해군대신(海軍大臣)으로 있던 야마모토에게 “어떤 방침에 의해 고작 수년 만에 이 같은 발전이 가능했는가?”라고 질문했을 때 그는 “인재양성에 전력을 기울였다. 인재만 있으면 함선포기(艦船砲機)는 뒤 따라 온다. 그 이외의 비결은 없다.”고 한 대답은 지금까지도 유명하다.
1852년 사쓰마번(薩摩藩)의 사무라이 집안에서 출생한 곤베에는 젊은 시절 영국 ․ 사쓰마전쟁과 도쿠가와 막부를 타도하기 위한 보신전쟁(戊辰戦争)에 참전하였다. 메이지 유신 이후 해군병학요(海軍兵學寮)1)의 입학하고 해군에 투신하였다.
수료 후에는 독일 군함에 승함하고 세계의 곳곳을 항해하면서 해상실무를 경험했다. 또 미국과 유럽 선진국의 해군을 견학하고 연구하면서 장차 군정가(軍政家)로 서 필요한 전문지식을 습득하였다. 그가 해상경험을 바탕으로 작성한 포술교본은 일본 해군의 정식교재로 채택되었다.
1891년 해군성관방주사(海軍省官房主事)에 올랐고, 1895년에 소장(少將)으로 진급하면서 해군성 군무국장(軍務局長)을 역임하였다. 1898년에는 중장으로 진급한 뒤 반 년 만에 해군대신(海軍大臣)에 임명되었다.
야마모토가 해군성에 재직했던 기간에 일본해군의 제도 ․ 조직 ․ 인사체제가 확립되었고, 군함은 8만 톤에서 30만 톤으로 획기적으로 증강되었다.2) 일본은 영국, 미국에 이어 최 단기간에 세계 3위의 해군국으로 도약하였다.
야마모토는 항상 적재적소의 인사원칙을 고집하였다. 1893년 해군의 인사적체를 해소하기 위해 그는 장관급(將官級) 장교 8명을 포함, 97명의 사관(士官)을 예비역으로 편입시켰다.
인사배치의 압권은 러일전쟁을 앞두고 해군성차관에 사이토 마고토(齊藤實), 연합함대사령장관으로 도고 헤이아치로를 임명한 것이 대표적이다. 해군대신으로 있던 야마모토는 대좌가 된 지 1년 밖에 되지 않은 ‘이쓰시마(嚴島)’ 함장 사이토를 차관으로 발탁하여 세상을 놀라게 했다. 사이토는 그림자처럼 야마모토를 보좌하고 후일 해군대신 · 조선총독부 총독 · 내각총리에 올랐던 인물이다. 또 오래 전부터 러시아 함대와의 결전방법을 연구해 왔던 도고 헤이아치로를 기용하여 러일전쟁에서 승리하였다.
영국으로부터 동맹 제의가 들어왔던 제1차 가쓰라 내각에서 이를 제일 먼저 찬성했던 대신(大臣)이 야마모토였다. 이어 고무라 쥬타로(小村壽太郞) 외상이 찬동하자 영일조약(英日條約)은 1902년 런던에서 조인되었다. 영일동맹의 존재가 러일전쟁에서 일본의 승리에 큰 역할을 하였음은 부인할 수 없는 역사적 사실이다.
1913년에 제16대 일본 내각 총리대신에 취임하고 1년간 활동하였다. 1923년 간토대지진(關東大地震) 직후 제22대 총리대신으로 다시 취임하여 도쿄의 재건에 앞장섰다. 그러나 1923년 12월에 벌어진 도라노몬사건(虎ノ門事件)3)의 책임을 지고 1924년 1월 정계를 은퇴하였다.