La Agrupación Deportiva Ferroviaria fue fundada en Diciembre de 1918. Recibió este nombre por el trabajo que ejercía su fundador y sus primeros socios, todos ellos ferroviarios. Este origen no era extraño entonces porque de circunstancias similares surgieron varios clubes en las décadas finales del siglo XIX, sobre todo en Inglaterra, siendo el ejemplo más conocido el del Manchester United.
La Federación Regional del Centro certificó la inscripción de la AD Ferroviaria con fecha del domingo 25 de mayo de 1919, en un momento en el que nuevos equipos surgían en abundancia en España, como el Patronato Vallehermoso, el Club Norte, los Exploradores de España, …
Los primeros partidos oficiales de «la Ferro», como pronto se conoció al equipo, los disputó en la temporada 1919-20. En esos momentos necesitó ayuda económica de las principales Compañías ferroviarias de la época, como MZA, Norte y MCP, aportando cada una de ellas pequeñas subvenciones. Las secciones en las que mejores resultados cosechó la Ferro fueron el boxeo y el futbol, sobre todo este último deporte, cuando su equipo ya jugaba desde el año 1921 en el campo de Las Delicias, junto a las estación.
Los equipos que tuvieron un origen ferroviario por el trabajo que ejercían sus fundadores han sido numerosos en el mundo del fútbol, desde el Manchester United al Peñarol de Montevideo, pasando por los más obvios Lokomotiv de Moscú y Ferro Carril Oeste de Argentina. El nivel de lucimiento que por sus hazañas deportivas consiguieron estos clubs no lo alcanzó el equipo español más representativo en este terreno: la entidad madrileña Agrupación Deportiva Ferroviaria.