Vanouds werden woningen en bedrijfsgebouwen vervaardigd uit hout en andere voorhanden materialen zoals stro, riet, vlechtwerk van wilgentenen en dergelijke, en leem. Daar waar natuursteen voorhanden was, gebruikte men ook dit materiaal. Natuursteen (met name kalksteen en graniet) kon ofwel onbehouwen ofwel behouwen worden verbouwd.

Op plaatsen waar natuursteen niet voorhanden was, kon dit soms beschikbaar komen door transport. Dan werd het gebruikt voor belangrijke gebouwen zoals kerken en paleizen. De her-uitvinding van de baksteen, begin dertiende eeuw, en het gebruik van cement uit tras, klei en kalk, uit dezelfde tijd stammend, maakte het mogelijk om de dragende constructie ook in steen uit te voeren. Dit was vooral van belang in de steden, om brandgevaar tegen te gaan. Begin negentiende eeuw werd het portlandcement uitgevonden, waardoor cement van goede kwaliteit goedkoop en in grote hoeveelheden kon worden vervaardigd.

In de Romeinse tijd werd voor het eerst (nog ongewapend) beton als bouwmateriaal voor gebouwen gebruikt, bijvoorbeeld in de koepel van het Pantheon, maar ook voor sarcofagen en zelfs bij de vervaardiging van kunstwerken. Beton als bouwmateriaal raakte nadien in onbruik, om in de negentiende eeuw opnieuw te worden uitgevonden en toegepast.

Tot in de negentiende eeuw werden bouwmaterialen met de hand vervaardigd dan wel gevormd en bewerkt. Na de industriële revolutie is de fabrieksmatige productie op gang gekomen. Prefabricage van complete gebouwonderdelen, zoals daken, wanden en vloeren van de genoemde bouwmaterialen heeft de kwaliteit van het eindproduct verhoogd en de bouwtijd versneld.

Einde 19e eeuw deed het gewapend beton, zijn intrede. Dit kon gebruikt worden als draagconstructie of skelet voor grotere gebouwen zoals flatgebouwen, wolkenkrabbers en fabrieken. Ook bij infrastructurele werken als stuwdammen, bruggen en in de wegenbouw speelt gewapend beton een grote rol. In dit geval moet ook betonstaal worden genoemd als bouwmateriaal. Een bijzondere vorm van beton is het asfaltbeton, waarbij als bindmiddel bitumen worden gebruikt in plaats van cement. Dit beton is in zekere mate elastisch en vindt zijn toepassing in de wegen- en dijkenbouw.

Kunststeen is de verzamelnaam voor steenachtige bouwelementen zoals stenen zowel gebakken als ongebakken, die zijn vervaardigd, in een industrieel proces, uit meerdere al dan niet natuurlijke grondstoffen.

Glas, van belang voor de constructie van ramen, kon aanvankelijk slechts in de vorm van kleine ruitjes worden vervaardigd. Ook was het glas aanvankelijk niet vlak. Later werd het getrokken glas en nog later het floatglas uitgevonden, wat leidde tot de mogelijkheid om grote oppervlakten van helder en doorzichtig glas te vervaardigen.

Kalk en gips zijn voorbeelden van andere steenachtige materialen die veelvuldig in de bouw worden gebruikt, bijvoorbeeld voor stucwerk en in de vorm van gipsplaten.

Een steenachtig materiaal dat vroeger werd gebruikt ter bescherming tegen brand, is asbest, onder meer in de vorm van asbestcement (golfplaten, leidingen, vloeren), veelvuldig toegepast, vooral in de 2e helft van de twintigste eeuw. Pas vele jaren nadat de schadelijkheid van asbestvezels was aangetoond, werd het gebruik van asbest verboden, en wel in 1993.

Van de metalen werd reeds het betonstaal genoemd. Overige metalen vindt men in de bouw voor dakgoten (zink), leidingen, hang- en sluitwerk, hekwerken en dergelijke. In de 2e helft van de negentiende eeuw werd vaak ook het gietijzer gebruikt, onder meer voor ondersteuningen en ornamenten. Vooral in de utiliteitsbouw kan de staalskeletbouw worden genoemd. De draagconstructie is hierbij in staal uitgevoerd. Minder vaak ziet men gevelbekledingen, die uitgevoerd zijn in speciale, corrosiebestendige, legeringen.

Het gebruik van kunststoffen in de bouw vond ingang gedurende de 2e helft van de 20e eeuw. Het betreft dan vooral kunststof kozijnen en andere bouwelementen. Leidingen voor drink- en afvalwater en buizen voor elektriciteitsleidingen, worden tegenwoordig vaak in kunststof (meestal PVC) uitgevoerd.