全国市長会は全国の市長（特別区の区長を含む）をもって組織しています。（平成30年10月1日現在　815市区が加盟）
　法的には、昭和38年の地方自治法の改正により、市長の全国的連合組織として自治大臣（現・総務大臣）への届出団体となり、現在に至っています。（地方自治法第263条の3）
　全国各市間の連絡協調を図り、市政の円滑な運営と進展に資し、地方自治の興隆繁栄に寄与することを目的としています。

　上記の目的を達成・遂行するため、次の事業を行っています。

1　市政に関し中央地方の連絡調整

2　地方自治法第263条の3第2項の規定に基づき、地方自治に影響を及ぼす法律又は政令その他の事項に関する内閣に対する意見の申し出又は国会への意見書の提出に関する事項

3　国と地方の協議の場に関する法律に基づき、地方自治に影響を及ぼす国の政策の企画及び立案並びに実施に関する関係大臣との国と地方の協議の場に関する事項

4　地方行財政に関する調査研究

5　研究会、講習会等の開催

6　機関誌その他市政に関する図書の刊行頒布

7　市又は市職員の共通利益に関する事項

8　その他本会の目的を達成するために必要な事項

　全国市長会の役員は、次のとおりです。

　会 長　　1名（任期２年） 　副会長　　若干名（任期1年）
　理 事　　74名（任期１年） 評議員　　164名（任期1年）
　支部長　　9名 監 事 3名（任期1年）
 

　この他に顧問、相談役及び参与を置くことができます。

　なお、戦後の歴代会長は以下のとおりです。

 
会務を遂行するため、次の会議が設けられています。

　 全国の9地域 （北海道、東北、北信越、関東、東海、近畿、中国、四国、九州）に支部が置かれ、支部内各都市間の連絡等にあたっています。
　 また、都道府県ごとに市長会が置かれ、都道府県内各都市間の連絡等にあたっています。

　 全国市長会の主な活動のうち、政府、国会等に対する要望活動があります。
　 これは、国の施策、予算に関して都市の意見を反映させることを目的とするもので、主要な要望事項の取りまとめ及び国等への提出を年2回定期的に行っています。
　 また、必要に応じ随時要望活動を行っています。

　 地方自治の振興を目指すため、他の地方関係団体（全国知事会、全国都道府県議会議長会、全国市議会議長会、全国町村会、全国町村議会議長会）と共同で、地方自治確立対策協議会を設けています。

　全国市長会の事務局構成及び主要職務分掌は、次のとおりです。
　事務総長、事務局次長、①企画調整室 （総会・役員会の運営、支部・都道府県市長会等との連絡調整等）、②総務部 （人事給与、研修、予算決算等）、③行政部 （地方自治制度、選挙制度、都市振興方策、都市の防災、地方公務員制度に関すること）、④財政部 （地方財政制度、地方税制度、地方公営企業制度に関すること）、⑤社会文教部 （厚生労働行政、文部科学行政に関すること）、⑥経済部 （農林水産行政、経済産業行政、国土交通行政、環境行政に関すること）、⑦調査広報部 （都市政策調査研究、広報、機関誌、市政資料、国際交流事業、全国都市問題会議、情報化推進）、⑧共済保険部 （団体定期保険、任意共済保険、個人年金共済、損害賠償保険）からなっています。