Viele Elemente befinden sich auch unerwünschterweise im Stahl (was sich aber nur schwer vermeiden lässt), sind jedoch mehr oder weniger unschädlich für den technischen Einsatz (siehe sog. „Eisenbegleiter“).

Stahl ist unter Normalbedingungen ein Festkörper, dessen genauerer Aufbau stark von dessen Abkühlungsgeschwindigkeit aus dem schmelzflüssigen Zustand abhängt (jeder Stahl wird anfangs aus einer Schmelze hergestellt, selbst beim Sintern stammt das Ausgangsmaterial aus einer Schmelze). In der Schmelze gibt es zunächst noch keine Strukturen.

Durch die Dominanz der Eisenatome bilden sich bei normaler Abkühlung lokale kristalline Strukturen (in diesem Fall Körner genannt): lokal, weil die Schmelze unter normalen Bedingungen an sehr vielen Stellen (Keime genannt) gleichzeitig zu erstarren beginnt. Von dort aus beginnen Kristalle zu wachsen, bis diese zusammenstoßen und Korngrenzen bilden. In jedem Korn herrscht die Metallbindung vor.

Die Atome der anderen Legierungsbestandteile werden auf verschiedene Weise in die Kristallite aufgenommen.

Entweder werden sie direkt in das Eisengitter eingebaut (man spricht von einer festen Lösung) oder sie bilden innerhalb des Kristallites eigene Verbindungen.

Jeder homogene Bereich innerhalb des Korns bildet dann eine Phase. Dies führt auch zur nächsthöheren Strukturebene. Je nach Zusammensetzung und Abkühlungsgeschwindigkeit bilden sich unterschiedliche Phasen (z. B. Austenit).

Einige Phasen bilden feine Gemische (z. B. Perlit). Genau genommen erstreckt sich eine Phase nur innerhalb eines Korns, oftmals (auch in der Literatur) werden aber alle mikroskopischen Phasen in ihrer Gesamtheit als eine Phase (des Festkörpers) bezeichnet. Manche Phasen bilden sich auch an den Korngrenzen. Alle Körner mit ihren Phasen, die Korngrenzen und die sog. Baufehler (Abweichungen vom idealen Kristallaufbau) bilden die Realstruktur des Stahls, und damit einen polykristallinen Festkörper.

Erstellt man eine entsprechend präparierte Probe eines Schnittes dieses Körpers (Schliffbild), kann man dessen Aufbau als Gefüge erkennen.