Le 31 août 1984, alors que l'OM reçoit le Matra Racing, le plus ancien des groupes ultras de France[3], le Commando Ultra' 84 voit le jour. Il est à noter qu'à cette époque, la majorité des supporters marseillais issus des quartiers populaires et ouvriers se retrouvent dans le Virage Nord. Quelques semaines plus tard, aura lieu le premier déplacement du groupe lors d'un PSG-OM au Parc des Princes. À cette période, de nombreux supporters marseillais font partie de la « mouvance » ultra, sans avoir toutefois encore de liens officiels avec le Commando Ultra'. La 1ère bâche "Commando Ultra Curva Nord" apparaît au Virage Nord en décembre 1984, lors d'un OM –Toulon, derby de la Méditerranée qui provoquera durant plusieurs années de violents affrontements entre supporters des deux camps. Les multiples incidents et affrontements principalement en Italie et en Angleterre font que l'appellation "Commando" et la tête de mort qui sert d'emblème au groupe sont proscrites du Vélodrome par des autorités sportives et judiciaires apeurées et sans véritable réponse et connaissance du phénomène ultra. Le Commando Ultra' est alors tenu de changer officiellement son nom en « Ultras Marseille » et à remplacer son emblème par la main de Zeus, faisant référence à l'origine grecque de Marseille.
Malgré tout, fort de plus de 150 abonnés pour la saison 86/87, le groupe investit la partie supérieure du Virage Sud pour des raisons pratiques de cohabitation avec les supporters « traditionnels ». C'est cette même saison que sera organisé à Split, le premier déplacement en Coupe d'Europe des Ultras. Depuis ce match, la bâche « Ultras » utilisée pour les déplacements sera présente sans discontinuité dans tous les stades européens pour chaque match de l'OM. La saison se termine par un déplacement au Parc des Princes pour la finale de la Coupe de France, qui donne lieu au premier « tifo géant » mis en place lors d'un match hors du Vélodrome.
Des incidents lors du déplacement des supporter pour assister au match Atletico Madrid vs Olympique de Marseille le 1er octobre 2008, entraineront l'incarcération de l'un de ses membres, Santos Mirasierra.