Het 31ste Smaldeel wordt opgericht te Beauvechain op 1 october 1951. In december van dat zelfde jaar verhuist het smaldeel naar Chièvres om daar deel uit te maken van de pas opgerichte 10de Wing Dagjacht, samen met het 23ste en het 27ste Smaldeel.
In het begin kent het smaldeel veel problemen door een knijpend gebrek aan vliegtuigen en gequalificeerd personeel. Hierdoor wordt de eerste vlucht van het smaldeel pas gevlogen op 4 januari 1952 met de gerenomeerde WW II veteraan, de Spitfire Mk.XIV.
De laatste missie van de Spitfire wordt gevlogen in juli 1952. Het smaldeel zit weer zonder vliegtuigen. Piloten en grondpersoneel worden verdeeld over de twee andere smaldelen, echter zonder het 31ste administratief te ontbinden.
Met de komst van de Republic F-84G Thunderjet, begint een nieuw era. Na enkele maanden gevlogen te hebben op de Lockheed Shooting Star Trainer T-33 als Flight VZZ (Vliegen zonder zicht), converteert het smaldeel naar de Thunderjet in oktober 1953.
Na een nomadenbestaan van bijna 2 jaar vestigt het smaldeel zich eind 1954 permanent op de basis van Kleine Brogel.
De laatste F-84G's worden overgedragen aan de Duitse Bondsrepubliek en aan Marocco na de komst van de Republic F-84F Thunderstreak in 1956.
Tijdens de volgende zeven jaren worden meer dan 37.000 vlieguren geboekt op dit toestel.
De Belgische 'Tigers' starten operaties op Lockheed F-104G Starfighter in maart 1964. Zoals veel andere Starfighter-eenheden worden ze ingedeeld als Jacht-Bommenwerpers bij de NATO-strijdkrachten.
De laatste vlucht met de Starfighter wordt gevlogen in maart 1983.
Een jaar voordien is de eerste F-16A geland te Kleine Brogel. De conversie start in november 1982 en wordt beëindigd in augustus 1983. In maart 1984 wordt het smaldeel terug opgenomen in de NATO-strijdkrachten.
Sindsdien heeft het smaldeel deelgenomen aan bijna alle grote NATO-oefeningen en hebben hun sporen verdient in verschillende conflicten zoals in het voormalige Joegoslavië, Libië, enz...
Regelmatig ontplooit het smaldeel naar Goose Bay (Canada), Nevada (Verenigde Staten) en vroeger Marocco voor training op zeer lage hoogte.
In mei 1991 wordt de FA-94 in een tijgerschema gespoten om de 40ste verjaardag van het 31ste 'Tiger' smaldeel te vieren. Dit tijgerpatroon wordt door velen het best geslaagde ontwerp aller tijden geacht.