《马里奥兄弟》塑造了两个水管工的形象——马里奥和路易吉。[3]在奇怪的怪物出现在纽约市下水道后，他们前去进行调查。[4]游戏的目的是在每一关卡中击败所有的敌人。马里奥兄弟的动作为跑步和跳跃。与以后的马里奥游戏不同的是，玩家不能跳跃在怪物之上并踩扁它们，除非它们已经四脚朝天。每一个关卡有一系列的平台以及在屏幕角落边的水管。在底层中间有个“POW”的方块。每个关卡都使用边缘重叠，这个意味着怪物和玩家在走过屏幕边缘处，会从另外一侧出现。
玩家可以通过不断地击败多种敌人而获得分数，也可以在奖励关卡获得。敌人可以在它们四脚朝天之时，通过碰触它们而被击败。玩家可以在敌人的正下方撞击平台而使它们四脚朝天。如果玩家在撞击过后长时间未碰触敌人，敌人会自行翻转回来。它们会改变颜色并增加移动速度。每一关卡有不同数量敌人，最后一个敌人会立即改变颜色并增加速度。
游戏中共有四种敌人。乌龟（Shellcreeper），它只是简单地走来走去；螃蟹（Sidestepper），需要两次撞击而翻转过来；苍蝇（Fighter Fly），跳跃着移动，只能在它落在平台时才能被翻转；滑冰（Slipice），当从下方平台撞击时，它会立即被击败而不是翻转过来（若被滑冰停止在某一层，便會令那一层變成冰层後消失，若那一层已變成冰层便會繼續移动）。
当玩家撞击底层中间的“POW”，所有在平台和底层的怪物翻转。在“POW”消失之前，玩家可以使用3次。在《超級瑪利歐兄弟3》中内嵌的玩家对玩家本游戏，每次使用这个会使对手失去一张卡片以及所有的怪物翻转。另外一个特征是管道是直的，有时会吐出火球至两个管道工。在敌人被击败之后，会有金币出现。玩家也能在奖励版中获得金币。
随着游戏的继续，敌人的数量会增加，并且难度增加。火球会从屏幕周围弹出或者从一端直接至另一端。平台下面会形成冰层，掉落时会松动。玩家可以在奖励版获得额外的金币和生命，并且次关没有敌人出现。在这些关卡之后，“POW”会重新出现并恢复。