M3在1941年，美国陆军兵工总署注意到在西欧战场使用的几种冲锋枪都相当简单有效，尤其是德国的MP40和英国的司登，相比之下，即使是已经简化的M1A1汤姆森冲锋枪仍然是成本较高、生产较费时。于是，在6月份由兵工总署轻武器发展处提出要求研制一种新的冲锋枪，以取代汤姆森冲锋枪。其要求为：全金属结构，最好能任意发射9mm派拉贝鲁姆弹或.45 ACP弹，至少能有转换工具，可以方便用户自己转换口径，外形应与司登类似，成本最好像司登一样低。
在1942年10月，通用汽车内陆分公司（Inland Division）的治·海德（George Hyde）和费雷德克·辛普森（Frederick Sampson）一起研制出一种符合要求的原型枪，前者是内陆分公司的总设计师，后者是负责筹备和组织生产设备和工装的工艺师。该原型枪的外形类似司登，可选择单发或连发，被命名为T15。随后他们又在T15的基础上，取消了保险开关和单发射击功能，还有其他一些小的改进，改进型被命名为T20。
在11月，T20冲锋枪就提交给军队，在阿伯丁试验场进行了全面试验。试验结果证明该枪无论是威力和可靠性，还是寿命都优于当时的同类武器（测试中射击超过5000发，只发生了两次故障）。1942年12月12日，美国陆军正式决定采用该冲锋枪作为制式武器，并定型为“美国M3 .45口径冲锋枪”（United States Submachine Gun, Cal. .45, M3）。同时批准通用汽车导航灯分公司（Guide Lamp Division）生产该枪，并打算逐步换回战场上的汤姆森冲锋枪。
M3冲锋枪的外形设计参考了司登冲锋枪，机匣是简单的圆筒形，前面接有外露的枪管，因为其形状与一种工具相似，因此被士兵们俗称为“注油枪”（Grease gun），在过去，国内曾把这个词翻译成“黄油枪”。
真正的黄油枪 M3冲锋枪的最初目的是设计一种一次性使用的轻武器，一旦损坏就干脆扔掉。然而，在1944年，前线上的冲锋枪数量总是短缺，因此美军不得不大量生产棘爪弹簧及其他易损部件，以维持部队手中的M3冲锋枪的正常使用。而各型汤姆森冲锋枪也由于其替代者的数量不足，而一直使用到战争结束。
到二战结束时，导航灯公司一共生产了近60万支M3冲锋枪，其中大约有2万5千支是9mm派拉贝鲁姆口径（更换枪管、枪机和弹匣适配器），这些9mm口径的M3冲锋枪在1944年交付给战略情报局（OSS）使用。在1944年，导航灯公司还在OSS的要求下生产了约1,000支.45口径的消声型M3冲锋枪。
同时，根据战争中发现的一些设计问题，尤其是易损坏的待击机构等问题，通用汽车公司又开始对M3冲锋枪进行改进和进一步简化。改进型在1944年12月定型为M3A1冲锋枪，除枪机、击发机座和机匣外，所有部件都可与M3互换。并开始投产。1945年，导航灯公司生产的M3A1接近15,500支，此外还有不少M3被改造成M3A1。在朝鲜战争期间，伊萨卡公司（Ithaca Gun Co.,）和布法罗公司（Buffalo Arms Co.,）获得政府合同，又生产了33,000支M3A1。
完全分解图1完全分解图12二战结束后，M3系列冲锋枪又参与了朝鲜战争。虽然在1957年，大量的M3和M3A1退出现役，转入战略储备，M3和M3A1大多在1957年退出美国服役，但仍然被船员、装甲车和卡车司机一直使用到1990年代。例如，直到1994年装备M4卡宾枪之前，每个艾布拉姆斯坦克的车组成员都配备有2支M9手枪和2支M3A1冲锋枪。而在1991年的海湾战争中，第1装甲师第19工兵营的卡车司机都配备着M3A1。
美国政府还把M3系列冲锋枪援助给其他国家，或援建其生产线。例如二战结束后，大量的德军武器被销毁，当德国境内需要维持治安及基本防务急需武器时，美国提供的一些淘汰武器中就包括了M3系列冲锋枪。例如菲律宾海军至今还在使用M3，而日本自卫队的坦克部队和侦察部队到现在也在同时使用M3和M3A1。例如在1955年，阿根廷FMAP（Fábrica Militar de Armas Portátiles）位于罗萨里奥市一家工厂就开始生产M3，这个型号被命名为PAM1，口径为9mm。后来又生产了一种带自动保险的PAM2，在弹匣座后面有一个保险杠杆，握弹匣座的手要同时紧握这个保险杠杆才能发射。1947年也就是民国36年，当时的中国也仿制了9mm口径的M3A1，命名为36式冲锋枪。
1951年一对德国的高速公路巡警，他们使用的是M3A1冲锋枪图中可见，M3和M3A1仍是日本自卫队的装备M3冲锋枪的设计目的是用一种成本更低、更容易大规模生产的新枪来代替汤姆森系列，该枪主要由钢件冲压和焊接而成，而且公差要求也很宽，只有对枪管、枪机和发射机构有较为精确的加工，所以生产和组装一支枪的工时很少，在当时的成本大约是20美元一支。
机匣由两块金属片焊接在一起，形成一个圆筒。在前端有一个枪管固定螺帽，枪管有4条右旋膛线。早期的M3并无枪口装置，后来增加了一个可拆卸的M9型喇叭形消焰器。
M3采用自由后坐式枪机，开膛待击和前冲击发，枪机面上有固定撞针，大而重的枪机装在两根平行的复进簧导杆上，因此有两根复进簧，而抛壳挺安装在击发机构上。M3的抛壳口上有一个铰链式防尘盖，当枪机向后运动时会把防尘盖顶开，然后防尘盖会在弹簧的作用下保持打开状态，直到射手用手重新合上防尘盖。
在机匣右侧、扳机的前上方，有一个由9个部件组成的回转曲柄，这个就是M3的枪机待击拉柄。当拉动曲柄向后转动时，一个棘爪会抬起并钩住枪机底部的待击凸笋，把枪机推向后方，直到枪机底部的待击缺口被击发阻铁卡住。此时枪就处于待击状态。扣下扳机后，枪机在复进簧的作用下向前推进，从弹匣上推一发弹进膛，当枪机闭锁的瞬间固定击针会撞击底火，枪弹击发，然后枪机开始后坐，完成抽壳、抛壳的动作。待击曲柄的柄头有一个附加功能，可以作为涂油时的油刷柄子。
M3的结构原理及分解1M3的结构原理及分解2 M3没有任何阻止扳机运动的机械式保险装置，该枪唯一的保险装置，就是抛壳口防尘盖内部的卡销，这个卡销与枪机体后的一个冲孔（保险孔）位置对应。当枪机处于闭膛位置时，关上防尘盖后保险卡销就卡入枪机保险孔内，阻止枪机运动。当枪机处于开膛待击的位置时，关上防尘后保险卡销也会正好卡住枪机的前端面，使枪机不能复进。
该枪只能全自动射击，虽然没有快慢机，但由于射速很低，只有450发/分，射手很容易控制出单发。
固定的瞄具包括觇孔式照门和片状准星，分别设在机匣的前后两端，瞄准基线长276mm，表尺固定在100码（约91米）上。
不同于汤姆森冲锋枪，M3采用双排单进的弹匣，这种设计也是参考自英国斯登冲锋枪的弹匣。但单进的设计不便于用手装填，在野战条件尤为麻烦，因此在附件中又配备了一个压弹器。弹匣插座兼作前握把使用，大型的弹匣解脱钮位于弹匣插座左侧，外侧加工有防止误操作的护圈，左手握持弹匣插座时拇指可以方便地按钮。
M3的伸缩枪托由钢条压成，除了作为肩托外，还可把枪托拆下来，用作清洁枪管的通条。
为OSS生产的消声型在枪管上钻有48个直径为6.35mm的泄气孔，并装上由贝尔实验室设计的整体式消声器。
M3冲锋枪的零件和附件1M3冲锋枪的零件和附件2
