Suomalaisen taidegrafiikan ensimmäinen työ, Akseli Gallen-Kallelan Kalman kukka (1895) tuli museoon tuoreeltaan taiteilijan lahjoittamana. Vuodesta 1900 alettiin suomalaisen taidegrafiikan uranuurtajien teoksia hankkia kokoelmiin. Tänä päivänä esim. Gallen-Kallelan, Albert Edelfeltin ja Hugo Simbergin tuotannot löytyvät museosta kutakuinkin täydellisinä.
Kokoelman kartuttamisen suvantovaihe koettiin 1910- ja 20-luvuilla. Suomalaisen grafiikan toinen nousukausi koettiin 1930-luvulla, ja se näkyi myös yhä lisääntyvinä grafiikan ostoina. 1950-luvulta lähtien kotimaisen grafiikan ostot alkoivat muodostaa huomattavan osan museon vuotuisista taidehankinnoista.
Viimeisimmät huomattavat lisäykset kokoelmiin ovat tulleet lahjoitusten kautta. Vuonna 2001 museo sai taidegraafikko Aune Mikkosen koko tuotannon taiteilijan itsensä lahjoittamana. Helmi Kuusen kuolinpesältä saatiin vuonna 2003 lahjoituksena noin sata grafiikanvedosta sekä kolmatta sataa luonnoskirjaa. Myös taidegraafikko Lea Ignatiuksen tuotantoa lahjoitettiin Ateneumin kokoelmiin vuoden 2003 näyttelyn yhteydessä. Huomattava lisäys eurooppalaisen modernin grafiikan kokoelmaan tuli Ester ja Jalo Sihtolan taidesäätiön lahjoituksen kautta vuonna 2001.
Ateneumin grafiikkakokoelman taiteilijoita ovat mm. Lauri Ahlgrén, Tuomas von Boehm, Pierre Bonnard, Georges Braque, Marc Chagall, Ina Colliander, Albert Edelfelt, James Ensor, Akseli Gallen-Kallela, Paul Gauguin, Simo Hannula, Pentti Kaskipuro, Pentti Lumikangas, Henri Matisse, Ernst Mether-Borgström, Edvard Munch, Teuvo-Pentti Pakkala, Pablo Picasso, Tuulikki Pietilä, Ulla Rantanen, Hugo Simberg, Ellen Thesleff, Henri de Toulouse-Lautrec ja Eduard Wiiralt.
Valtion taidemuseon uusi Taidekokoelmat-verkkopalvelu tarjoaa perustietoa myös Ateneumin grafiikkakokoelman teoksista ja taiteilijoista.