اتّخذ كل من الشيخ زايد مع الشيخ راشد بن سعيد آل مكتوم حاكم دبي طيب الله ثراهما،  الخطوةَ الأولى نحو إنشاء الاتحاد.  كان الهدف من هذا الاتحاد أن يكون نواةً للوحدة العربية،  وحماية الساحل الذي كانت الثروة النفطية متوقعة فيه من مطامع الدول المجاورة الأكثر قوة.  وتم عقد اجتماع في الثامن عشر من فبراير 1968م في السميح،  وتبنّي سياسة مشتركة لشؤون الهجرة.  وقد تُركت باقي المسائل الإدارية إلى سلطة الحكومة المحلية لكلّ إمارة.  وعُرفت تلك الاتفاقية المهمة بـ"اتفاقية الاتحاد"،  ويمكن اعتبارها الخطوة الأولى نحو توحيد الساحل المتصالح كلّه.  قاما بدعوة حكّام الإمارات الخمس المتصالحة الأخرى بالإضافة إلى البحرين،  للمشاركة في مفاوضات تكوين الاتحاد.  وفي الفترة من 25 إلى 27 فبراير 1968م،  عقد حكّام الإمارات التسع مؤتمراً دستورياً في دبي.  ووقع المجتمعون اتفاقية مكوّنة من إحدى عشرة نقطةً،  والتي أصبحت قاعدةً للجهود المكثّفة لتشكيل الهيكل الدستوري والشرعي لـ"اتحاد الإمارات العربية".  تمّ في تلك الفترة عقد اجتماعات عدّة على مستويات مختلفة من السلطة،  والاتفاق على القضايا الرئيسة في اجتماعات المجلس الأعلى للحكّام،  الذي يتكوّن من رؤساء الإمارات التسع.  ويكون المجلس مسؤولاً عن إصدار القوانين الاتحادية،  معلناً قيام دولة الإمارات العربية المتحدة دولة مستقلة ذات سيادة،  وجزءاً من الوطن العربي الكبير.  تمّ الاتفاق رسمياً على وضع دستور مؤقّت ضم 152 مادة،  وارتكز على نسخة معدّلة من نصّ الدستور السابق لإمارات الخليج التسع.  واعتمدت أبو ظبي كالعاصمة المؤقتة للاتحاد.  وانتخب حاكم أبو ظبي،  وتم انتخاب المغفور له الشيخ راشد بن سعيد آل مكتوم نائباً للرئيس،  ثمانية أعضاء لكل من أبو ظبي ودبي،