조지 워싱턴은 (미국 독립전쟁을 종결시켰던 강화조약인) 파리조약(Treaty of Paris)과 미국헌법이 기초될 때까지의 기간을 묘사하면서 주들이 겨우 “모래로 만든 줄”로 연결되어 있었다고 썼다. 포토맥강 운선권을 둘러싼 메릴랜드주와 버지니아주 사이의 분규로 1786년 메릴랜드주 아내폴리스에서 5개 주의 대표자 회의가 열렸다. 대표자의 한 사람인 알렉산더 해밀턴은, 상업은 다른 정치적 및 경제적 문제들과 너무 얽혀 있으며, 그 자리에 모인 국한된 대표자들만으로 다루기에는 사태가 너무 심각하다고 동료 대표자들을 설득했다. 해밀턴은 모든 주에 대해, 이듬해 봄 필라델피아에서 열리게 될 회의에 참가할 대표자를 임명하도록 촉구했다. 
대륙회의는 처음에는 이 대담한 조치에 분개했으나, 버지니아주가 워싱턴을 대표로 선출했다는 소식을 접하자 항의를 곧 중단했다. 그 다음 가을과 겨울 동안 로드아일랜드주를 제외한 모든 주에서 선거가 실시되었다. 1787년 5월 필라델피아의 주의사당에서 열린 연방회의(Federal Convention)는 각사들의 집회였다. 
각 주의 의회는 식민지 정부와 주정부, 대륙회의 법조계 및 군대의 경험이 풍부한 지도자들을 회의에 보냈다. 성실한 인격과 독립정쟁 중의 군사적 지휘 능력으로 해서 이 나라의 출중한 시민으로 인정되고 있던 조지 워싱턴이 의장으로 선출되었다. 활동적인 대표들 중에서도 출중한 사람은 펜실베니아주의 두 대표였다. 즉, 중앙정부의 필요성을 명확히 간파한 유능하고 대담한 구버뉴어 모리스, 그리고 국가의 이상을 위해 지칠 줄 모르고 활동한 제임스 윌슨이었다. 
버지니아주 대표는 제임스 매디슨이었는데, 그는 실제적이 젊은 정치가이며, 정치와 역사에 조예가 깊었다. 그의 동료의 말에 의하면, “근면하고 지성스러운 인물이며 ... 토론에서 어떤 문제에 대해서나 가장 소상히 알고 있었다.” 매디슨은 오늘날 “미합중국 헌법의 아버지”로 인정받고 있다. 매사추세츠주의 대표는 유능하고 경험이 풍부한 두 젊은이, 루퍼스 킹과 엘브리지 게리였다. 코네티컷주 대표의 한 사람은 제화공으로부터 판사가 된 로저 샤먼이었다. 뉴욕주의 대표는 이 연방회의를 제안한 알렉산더 해밀턴이었다. 이 회의에 참석하지 못했던 대표는 미국공사로서 프랑스에서 근무하던 토마스 제퍼슨과, 역시 똑같은 임무로 영국에 가있던 존 애덤스였다. 연방회의는 연합규약 개정안을 기초할 권한이 부여되었을 뿐이었다. 
그러나 후일에 매디슨이 기술한 것처럼 대표들은 “자기들의 나라에 대해 사나이다운 확신을 갖고” 연합규약을 제쳐놓고 전혀 새로운 형태의 정부를 수립하는 일을 추진해 나갔다. 그들은 두 가지 상이한 권력--즉, 반(半)독립적인 13개 주가 이미 행사하고 있는 지방 관할권과 중앙정부의 권한--을 조절하는 것이 무엇보다도 필요하다는 사실을 인정했다. 
그들은 중앙정부의 기능과 권한은 새로운 것이고 전체적이며 포괄적인 것이기 때문에 조심스럽게 정의되고 진술되어야 하며, 한편 그 밖의 다른 모든 기능가 권한은 주에 속하는 것으로 이해되어야 한다는 원칙을 채택했다. 그러나 대표들은 중앙정부에게는 무엇보다도 실권을 가져야 하고 상거래를 규제하고 전쟁을 선포하며 강화를 할 수 있는 권한이 부여되어야 한다는 사실을 대체로 받아들였다.