El 1 de mayo de 1906 un grupo de amigos de la parroquia de San Bernardo fundaba el Club Atlético Chacarita Juniors en el local de la 17.ª sección del izquierdista Partido Socialista, ubicada en las esquinas de Dorrego y Giribone (hoy Córdoba) de la Ciudad de Buenos Aires. Su nombre no conlleva muchos secretos, ya que el Chacarita es por el barrio y el Juniors, en alusión a la juventud que era la que le había dado vida al funebrero.
Un día después de la fundación, quedó registrado el nombre de Chacarita Juniors, y se conformó la primera Comisión Directiva, dirigida por Máximo Lema, el primer presidente de la historia del club.
El primer partido de la historia fue contra el Club Atlético Victoria. Se jugaron tres cotejos contra ese club. Los dos primeros finalizaron empatados en cero, pero el tercero fue para Chacarita por 3 a 2. Ese primer equipo estuvo integrado por todos los miembros fundadores. Ese equipo alineó con 2-3-5, formación tradicional de la época, y alistó a estos once: José Lema; Manuel Lema y Arístides Ronchieri; Antonio Fernández, Alfredo Lema y Andrés Ducase; Alfredo Palacios, Miguel Pereyra, Maximiliano Lema, Eduardo Ducase y Manuel Hernández.
A partir de 1911 disminuyó su actividad futbolística y algunos de los jugadores emigraron hacia el Club Platense; hasta que el 20 de agosto de 1919 se realizó una asamblea en el comité socialista de la calle Dorrego 1476, presidiendo la reunión el señor Santiago Piaggio, a los efectos de reorganizar el “Club Atlético Chacarita Juniors”.
El Libro de Actas de esa Asamblea de Reorganización de 1919 es el documento más antiguo que se conserva del club. Como resultado de la asamblea se nombró una comisión provisoria integrada por José Manuel Lema, Nicolás Caputo, Nicodemio Perticoni, Guillermo Herrera, Lorenzo Colombo y Santiago Piaggio, que se encargaría de todos los trabajos de reorganización del club citado.
Ese comité de la calle Dorrego continuaría siendo el lugar de encuentro de los dirigentes de Chacarita Juniors hasta aproximadamente 1929, en que se alquiló otro local, en Leiva y Corrientes.
Con la refundación del club, llegaría la nueva camiseta, ya que la tradicional roja, blanca y negra nació a mediados de aquel año. Antes, Chacarita utilizaba una casaca color celeste con una franja blanca situada sobre el pecho en forma horizontal.
Los colores rojo, blanco y negro, tienen su fundamento. Se eligió al rojo por el socialismo, al cual estaban vinculados todos los miembros fundadores. El blanco se escogió por la pureza de sus miembros y el negro por la cercanía del Cementerio de la Chacarita, que a su vez dio origen al apodo de "Funebrero".
Tras varios amistosos, en 1921 participó de una liga independiente, la «Asociación Deportiva Belgrano», y en 1921 se inscribió en las divisiones inferiores de la Asociación Argentina de Football, la institución rectora del fútbol amateur argentino avalada por la FIFA, ocupando el tercer puesto en su primer campeonato.
En 1925 se sumó el atletismo a las actividades del club, contando con corredores de relativa importancia de la época como Dante Plácido, Plomer, Gallo y Salatino.
En 1925 jugó por primera vez en Primera División y su actuación fue destacada, ocupando el cuarto puesto en la tabla general.
En 1927 llegó al primer puesto del campeonato invicto con cuatro empates. Fusionado en el fútbol porteño las Asociaciones Argentina y Amateurs Chacarita mantuvo buenas campañas hasta los sucesos de 1930 que iniciarían la era del profesionalismo en el país.
El primer partido de Chacarita en la era del profesionalismo fue jugado el 31 de mayo de 1931 en la cancha de Boca Juniors, resultando en un empate con el equipo que luego se consagró campeón del torneo.
Pese a las buenas campañas anteriores, en un período en el que destacarían Ernesto Duchini, Renato Cesarini, el goleador Fabio Juan Cassán y su arquero Isaac Lopez, quien defendería el arco del club hasta 1941, convirtiéndose en el jugador con más partidos jugados durante el profesionalismo (343), en 1940 Chacarita descendió por primera vez, regresando a la primera división al siguiente año.
En julio de 1945 el club trasladaría su estadio a la localidad de San Martín, provincia de Buenos Aires.
En ese período destacarían entre otros jugadores Enrique Esquide, Roberto Moreno, José Coll, Humberto A. De Luca, Roberto E. Dutruel, Carlos Spinelli y los delanteros Francisco Campana y Marcos Busico.
Entre 1956 y 1959 volvió a actuar en la segunda división. El 5 de diciembre de 1959 obtuvo el ascenso al vencer a Talleres de Remedios de Escalada. Tras evitar a duras penas un nuevo descenso en 1967, se hizo cargo del plantel Argentino Geronazzo quien reorganizó el equipo incorporando a Ángel Alberto Marcos, Jorge Alberto Gómez, Alberto Raúl Poncio, Ángel Hugo Bargas y Franco Frassoldati, Leonardo Luis Recúpero, Horacio Ricardo Neumann y en la valla Jorge Eliseo Petrocelli. Entre sus suplentes se encontraban Juan Antonio Gómez Voglino y Carlos María García Cambón, y el arquero Bernabé Adolfo Palacios.
En 1969 Federico Pizarro reemplazó a Argentino Geronazzo manteniendo la base del equipo, incorporándose al zaguero de Boca Abel Jorge Pérez, al volante de Newell's Juan Carlos Puntorero y al delantero de Estudiantes de La Plata Rodolfo Orife.
En el Campeonato Metropolitano de 1969 Chacarita presentó una formación clásica (4-3-3) con los titulares Petrocelli, Gómez, Pérez, Bargas y Frassoldati, Recúpero, Puntorero y Poncio; Ángel Alberto Marcos (capitán), Orife y Neumann. También jugaron Palacios, Alfredo Gualterio Ortíz, Juan Domingo Loyola, Voglino, García Cambón, Zacarías Zurita y Oscar Amarilla.
Chacarita ganó la zona A del torneo y tras vencer en semifinales a Racing Club por 1 a 0, se consagró campeón de la primera división el 6 de julio tras ganarle la final al Club Atlético River Plate en el estadio de Racing por 4 a 1 con dos goles de Neumann (12 y tras el empate de Trebucq, el segundo a los 37 minutos), uno de Marcos (minuto 47) y el otro de Frassoldati (minuto 56). Ese día, bajo la dirección de Víctor Rodríguez, formaron: Eliseo Jorge Petrocelli; Jorge Alberto Gómez, Abel Jorge Pérez, Ángel Hugo Bargas y Franco Frassoldatti; Leonardo Luis Recúpero, Juan Carlos Punturero y Alberto Raúl Poncio; Ángel Alberto Marcos, Rodolfo Orife y Horacio Ricardo Neumann.
Ese año, quedó en cuartos de final de la Copa Argentina por diferencia de gol a favor de Boca, equipo que obtendría el Campeonato Nacional.
En 1971 participó de la VI Edición de la Copa Joan Gamper en Barcelona. El 24 de agosto venció al Bayern de Múnich por 2 a 0, con goles de Recupero y Fucceneco. Ese día formó con Carnevalli; Forteis, Buzzo, Bargas y Frasoldati; Puntorero (Fuccenecco), Poncio, Marcos, Recúpero, García Cambón y Newman, mientras que en el Bayern formaban varios de los futuros campeones del mundo (Maier, Schwarzenbeck, Beckenbauer, Breitner y Müller). El siguiente día perdió la final con el Fútbol Club Barcelona por 1 a 0.
En 1979 descendió nuevamente y un año después retrocedió hasta la Primera C, la tercera división, aunque ascendió rápidamente y en 1983 volvió a Primera. En 1986 volvió a descender de Primera, pero ahora jugaría la nueva Primera B Nacional, donde militó 3 años, hasta que volvió a descender en 1989, a la Primera B, ahora como tercera categoría, hasta que ascendió en 1994. Luego de cinco años en el Nacional B, consiguió la vuelta a la máxima categoría del fútbol argentino después de 13 años. En este paso, el conjunto de San Martín tuvo resultados históricos, tales como una victoria a Independiente en su propia cancha por 3 - 0, dos empates, frente a River y Boca por 4 - 4, una gran cantidad de victorias sobre el equipo de Boedo, San Lorenzo, y también sobre Estudiantes de La Plata.
En 2004 perdió la categoría en la última fecha de Primera División (tras un sospechado empate entre River Plate y Atlético de Rafaela que terminó condenando a Chacarita al descenso) y permaneció 5 años en la Primera B Nacional hasta que ascendió en 2009. Esta etapa fugaz de Chacarita en Primera significó una serie de muy malos resultados, el equipo Funebrero no pudo revertir su imagen y solo obtuvo un resultado significativo que fue la aplastante victoria a Boca por 4 - 1, con goles de Facundo Parra, Nicolás Ramírez y Sciorilli. Se consuma su descenso en 2010, y durante 2 años Chacarita fracasó en la segunda categoría, hasta el 2012, cuando en una infartante promoción por no descender, empata con Nueva Chicago, errando un penal en el último minuto y de esta manera pierde la categoría de una forma insólita cayendo a la B Metropolitana después de 18 años.
El elenco dirigido por Salvador Pasini tenía un solo objetivo para la temporada 2012-2013 y era regresar a la segunda división. Chacarita obtuvo buenos resultados, pero a 6 fechas de la culminación del torneo, Pasini es echado sin motivos razonables (El funebrero venía 2.ª a pocos puntos de su eterno rival, Atlanta), y la dirigencia contrata a Navarro Montoya como entrenador. "El mono" obtuvo solo 4 unidades de 18 y Chacarita quedó afuera de cualquier chance del ascenso. En la temporada 2013-2014, Chacarita obtuvo una posición de mitad de tabla para arriba, y no pudo ascender. Tuvo a Ramón Lentini como estandarte, siendo el goleador del torneo con 18 tantos. Ya en la temporada de transición 2014-2015, Chacarita logra el ascenso en la última fecha jugando como local, en un estadio colmado con 30.000 personas, frente a Villa Dálmine. Chaca, ganó por 1 - 0 con un gol de Damián Manso y regresó a la segunda división. Chacarita se armó para pelear arriba, pero una inexplicable serie de lesiones (Cristian Milla, Cristian Bordacahar, "Coquito Rodríguez" -todos de rotura de ligamentos-, Damián Manso) llevó al funebrero a pelear el descenso. Con una serie de 14 partidos sin poder obtener un triunfo, Aníbal Biggeri deja su cargo y es reemplazado por Fernando Gamboa. A pesar de no obtener buenos resultados, al mando del "Negro", Chacarita pudo salvarse del descenso. El año siguiente, temporada 2015/2016, Chacarita comenzó mal, pero fue mejorando con buenos resultados, ya con Walter Coyette en el banco de suplentes. "El Gato" le dio un sello determinante de buen juego al Funebrero que lo colocó en segunda posición, relegado del ascenso (por única vez, solo un equipo ascendía a la Primera División Argentina).
Finalmente, Chacarita mantuvo la base, y se dedicó, la temporada siguiente, de lleno al ascenso. Tuvo bajas importantes, pero la llegada de Rodrigo Salinas (30 goles en 42 partidos) fue determinante, sumado a un iluminado Nicolas Oroz que llevaba la 10. Este Chacarita, tras un largo campeonato de 44 fechas, pudo festejar con el ascenso a Primera División, luego de 7 años. El funebrero culminó el torneo colocándose en segundo lugar, detrás de Argentinos Juniors, con quien paradójicamente, igualó su último partido, que le decretó el ascenso (al Funebrero). No obstante, al igual que en la temporada 2009-2010 solo pudo mantenerse un año en Primera División tras una muy mala campaña en donde solo se destacaron los triunfos ante Gimnasia y Esgrima de La Plata, Lanús, Vélez y Estudiantes de La Plata, este último el único en condición de visitante en toda la temporada.