عندما اندلعت حرب 1948 تعيّن قائدا لسرية «هارئيل» التي قاتلت في منطقة القدس؛  ويشير المؤرخ اليهودي إيلان بابي في كتابه التطهير العرقي لفلسطين بأن إسحاق رابين هو أحد مهندسي ومخططي ومنفذي عملية ترحيل الفلسطينيين التي نفذتها الحركة الصهيونية على أرض فلسطين.  وعند انتهاء الحرب اشترك في محادثات الهدنة التي دارت بين إسرائيل ومصر في جزيرة رودس اليونانية.  عندما اندلعت حرب الأيام الستة في 1967 كان رابين لا يزال يتقلد منصب رئيس الأركان. عقب تقاعد رابين من الحياة العسكرية،  انخرط في السلك الدبلوماسي كسفير لإسرائيل لدى الولايات المتحدة الأمريكية.  فقد حصل على مقعد في الكنيسيت الإسرائيلي في كانون الثاني/يناير بعد أن انضم لحزب العمل الإسرائيلي.  مع حصوله على المقعد البرلماني تعيّن أيضا لمنصب وزير العمل في الحكومة التي ترأستها جولدا مائير.