توجد في النيابة الشعبية العليا 15 وحدة وظيفية ومكتب الشؤون السياسية ولجنة الحزب وإدارة المتقاعدين (تعمل مع مكتب الاستفسار)، و5 وحدات تنفيذية تابعة لها مباشرة.

(1) الوحدات الوظيفية: الديوان، إدارة التحقيق والرقابة، إدارة الإدعاء العام، المصلحة العامة لمقاومة اختلاس الأموال والرشوة، إدارة فحص التقصير في العمل والاعتداء على الحقوق، إدارة فحص القضايا المدنية والإدارية، إدارة فحص الاتهامات (مركز إبلاغ الجرائم للنيابة الشعبية العليا لتلقى البلاغات عن الجرائم)، إدارة الشكاوى الجنائية، إدارة السجون والموقوفين، إدارة السكك الحديدية، إدارة جرائم سوء استخدام المنصب، مكتب القوانين والسياسات، مصلحة المراقبة، مصلحة الشؤون الخارجية، مصلحة للتخطيط والمالية والأجهزة.

(2) يقيم قسم الشؤون السياسية قسم الكوادر وقسم الإعلام وقسم توعية وتدريب الكوادر والمكتب.

(3) الوحدات التابعة للمحكمة العليا مباشرة: مركز الخدمات، دار صحيفة النيابة، دار النيابة الصينية للنشر، مركز بحوث تكنولوجيا النيابة ومعلوماتها، معهد نظريات النيابة، المعهد الوطني للنيابة.