2001年6月15日，哈萨克斯坦共和国、中华人民共和国、吉尔吉斯共和国、俄罗斯联邦、塔吉克斯坦共和国、乌兹别克斯坦共和国六国领导人在上海签署了《上海合作组织成立宣言》。
2002年，《上海合作组织宪章》获通过并于2003年9月19日正式生效，这是一份章程文件，规定了组织的宗旨与原则、组织架构、主要活动方向。2015年和2016年分别批准了《上海合作组织至2025年发展战略》和《〈上海合作组织至2025年发展战略〉2016—2020年落实行动计划》。目前，上合组织具备法律效力的文件有70多项国际条约和部门间协议。
目前，上合组织成员国包括：印度、哈萨克斯坦、中国、吉尔吉斯斯坦、巴基斯坦、俄罗斯、塔吉克斯坦和乌兹别克斯。
观察员国包括：阿富汗、白俄罗斯、伊朗和蒙古国。
对话伙伴国包括：阿塞拜疆、亚美尼亚、柬埔寨、尼泊尔、土耳其和斯里兰卡。
根据《上海合作组织宪章》的条款，本组织各机构的决议在成员国协商一致的基础上通过（第十六条）；上合组织对其他国家开放（第十三条）；本组织可向感兴趣的国家或国际组织提供对话伙伴国或观察员地位（第十四条）。
上合组织最高决策机构是成员国元首理事会，负责确定本组织的重要方向和主要合作领域，决定本组织内部结构和运行，以及与其他国家和国际组织开展合作的原则性问题，审议国际和地区迫切问题。
政府首脑（总理）理事会，负责讨论并就经济和人文领域合作的具体实际问题做出决定。
外交部长理事会审议本组织当前的活动问题，负责筹备成员国元首理事会会议，就举办有关国际问题的磋商做出决定。
上合组织成员国部委领导人会议的职能涵盖专业领域合作问题。目前运行的机制有经贸部长会议、国防部长会议、公安内务部长会议、交通部长会议、教育部长会议、文化部长会议、卫生部长会议、紧急救灾部门领导人会议、司法部长会议、禁毒和海关等其他部门领导人的会议等。此外，还包括各种专家协调机制和工作小组。
最高法院院长会议和总检察长会议定期举办。
国家协调员理事会负责决定本组织当前活动的问题。