前身是“上海五国”会晤机制。1996年4月26日,中国、俄罗斯联邦、哈萨克斯坦、吉尔吉斯斯坦、塔吉克斯坦五国元首在上海举行首次会晤。从此,“上海五国”会晤机制正式建立。2001年6月14日至15日,“上海五国”元首在上海举行第六次会晤,乌兹别克斯坦以完全平等的身份加入“上海五国”。15日,六国元首举行首次峰会,并签署了《上海合作组织成立宣言》,上海合作组织正式成立。六国元首还签署了《打击恐怖主义、分裂主义和极端主义上海公约》。

　　同年9月,上海合作组织成员国总理在阿拉木图举行首次会晤。六国总理在会晤中一致决定启动六国多边经贸合作进程,宣布正式建立上海合作组织框架内的总理定期会晤机制。

　　2002年6月,上海合作组织成员国元首在圣彼得堡举行第二次峰会,签署了《上海合作组织宪章》。宪章对上海合作组织宗旨原则、组织结构、运作形式、合作方向及对外交往等原则作了明确阐述,标志着该组织从国际法意义上得以真正建立。