国际奥委会在组织机构上分为国际奥委会全体会议、执行委会员和主席。

(1)国际奥委会全体会议简称全会，是国际奥委会全体委员定期参加的会议，每年至少举行一次。全会有权通过、修改和解释奥林匹克宪章，选举国际奥委会委员、执行委员和主席，决定奥运会主办城市和其它重大问题。她的决定是最后的决定，因此她是国际奥委会的最高权力机构。

(2)执行委员会处理一切日常事务，以保证奥林匹克章程和规划得以严格实施。执委会由主席1人、副主席4人和执委6人组成，由全会秘密投票选举产生。在执委会中，主席任期8年，可连选连任4年，副主席和执委任期4年。

(3)国际奥委会主席在奥林匹克周期第二年举行的国际奥委会全会上以无记名投票方式从委员中选举产生，任期8年，可延任4年，他主持国际奥委会的全部活动。国际奥委会的正式语言是法语和英语，因此，要求当选委员必须会讲法语或英语。一般一个国家或地区只能有一名委员。但是国际奥委会认为那些积极开展奥林匹克运动和举办过奥运会的国家，可拥有两名委员。不是每国家或地区的奥委会都有国际奥委会委员。

目前国际奥委会有167个会员，有国际奥委会委员的国家或地区为数不多。1894年国际奥委会刚成立时，委员为14人，至1986年止为91人，分布于 73个国家或地区的奥委会的代表，而不是各国或地区派往国际奥委会的代表。所在国家或地区无权撤换这些委员和干预委员的选举工作。过去委员的任期是终身的，从1965年起，当选委员年满72岁时，必须呈请退休。国际奥委会委员很长时间是清一色男性，至1981年才增选了第一批女委员。