[ على الرغم أن الهيكل الحالي لتنظيم القاعدة غير معروف، حيث تم الحصول على معلومات معظمها من جمال الفضل الذي قدم للسلطات الأمريكية صورة تقريبية لكيفية تنظيم المجموعة. بالرغم من أن صحة المعلومات المقدمة من الفضل وما دفعه للتعاون محل شك، إلا أن السلطات الأمريكية اعتمدت على شهادته في تصورها الحالي عن تنظيم القاعدة.
أسامة بن لادن هو الأمير ورئيس هيئة عمليات القاعدة (على الرغم من أن هذا الدور قد يكون شغله أبو أيوب العراقي)، ويعاونه مجلس الشورى، الذي يتألف من كبار أعضاء القاعدة، والذي قدره مسئولون غربيون بحوالي عشرين إلى ثلاثين شخصا. ويتولى أيمن الظواهري منصب نائب رئيس عمليات القاعدة، بينما يتولى أبو حمزة المهاجر زعامة تنظيم القاعدة في العراق. وتتوزع المهام داخل التنظيم كالآتي :
"اللجنة العسكرية" : هي المسئولة عن عمليات التدريب وتوفير الأسلحة والتخطيط للهجمات.
"لجنة المال / الأعمال" : هي التي تمول العمليات من خلال الحوالات، وتوفر تذاكر الطيران وجوازات السفر الزائفة، وتدفع الأموال لأعضاء القاعدة، وتشرف على أرباح الأعمال. وفي تقرير لجنة 9 / 11، تم تقدير أن القاعدة تحتاج مبلغ 30 مليون دولار أمريكي سنويًا لإجراء عملياتها.
"لجنة الشريعة" : تراجع الشريعة الإسلامية، وتقرر مطابقة مسارات العمل للشريعة.
"لجنة الدراسات الإسلامية / الفتاوى" : تصدر الفتاوى مثل فتوى عام 1998 التي تحرض المسلمين على قتل الأمريكيين.
في أواخر التسعينات، تشكلت "لجنة الإعلام"، والتي تولت إصدار نشرة إخبارية، والعلاقات العامة. وفي عام 2005، شكّل تنظيم القاعدة "السحاب"، بيت الإنتاج الإعلامي لها، لتوفير احتياجاتها من المواد المرئية والمسموعة.
عدد الأفراد الذين ينتمون إلى التنظيم غير معروف. ووفقًا لفيلم بي بي سي الوثائقي قوة الكوابيس، فالإتصالات بين أفراد تنظيم القاعدة ضعيفة. كان عدم إدانة أعداد كبيرة من أعضاء تنظيم القاعدة، على الرغم من العدد الكبير لحالات الاعتقال بتهم تتعلق بالإرهاب، سببًا للشك في ما إذا كان الانتشار الواسع للقاعدة موجود أم لا؟. وبالتالي فمدى وطبيعة تنظيم القاعدة لا يزالا موضوع خلاف.
يرى بعض المحللين أن قيادة القاعدة تغيرت من "العرب" في سنواتها الأولى، إلى "قيادة باكستانية تقريبًا" في عام 2007. وقد قُدّر أن 62 ٪ من أعضاء القاعدة تلقوا تعليمًا جامعيًا.
عندما سئل عن احتمال ضلوع القاعدة في تفجيرات لندن عام 2005، قال مفوض شرطة العاصمة السير أيان بلير : "القاعدة ليست منظمة. القاعدة هي طريقة للعمل... ولكن هذه هي السمة المميزة لهذا الأسلوب.. من الواضح أن القاعدة لديها القدرة على توفير التدريب... لتوفير الخبرة... وأعتقد أن هذا هو ما حدث هنا"
ومع ذلك، في 13 أغسطس 2005، ذكرت صحيفة الإندبندت نقلا عن تحقيقات الشرطة والمخابرات العسكرية، أن الانتحاريين في تفجيرات 7 يوليو تصرفوا بشكل مستقل عن العقل المدبر للقاعدة الموجود في مكان ما في الخارج
ما هي القاعدة بالضبط؟، سؤال لا يزال محل خلاف. ففي فيلم بي بي سي الوثائقي قوة الكوابيس، يؤكد الكاتب والصحفي آدم كورتيس أن فكرة القاعدة بوصفها منظمة رسمية هي اختراع أمريكي في المقام الأول. يؤكد كيرتس أن اسم "القاعدة" عرض لأول مرة على الجمهور عام 2001، في محاكمة أسامة بن لادن والرجال الأربعة المتهمين في تفجير سفارة الولايات المتحدة في شرق أفريقيا عام 1998. اسم المنظمة وتفاصيل هيكلها، قدمها جمال فضل في شهادته، الذي زعم أنه عضو مؤسس في المنظمة، وموظف سابق لدى أسامة بن لادن وفي اقتباس من الفيلم الوثائقي :
“ الواقع هو أن ابن لادن وأيمن الظواهري أصبحوا محور لمجموعة مفككة من المتشددين الإسلاميين الذين جذبتهم الاستراتيجية الجديدة، ولم يكن هناك منظمة. كانوا فقط نشطاء إسلاميين خططوا لعملياتهم وبدأ ابن لادن التمويل والمساعدة، ولكنه لم يكن قائدهم. كما لا يوجد دليل على أن ابن لادن استخدم مصطلح "القاعدة" للإشارة إلى اسم المجموعة حتى بعد 11 سبتمبر، عندما أدرك أن هذا المصطلح من صنع الأمريكيين.”
أثيرت عدة تساؤلات حول مصداقية شهادة الفضل، بسبب تاريخه في التضليل، وأنه أدلى بتلك الشهادة كجزء من صفقة بعد إدانته بالتآمر لمهاجمة المنشآت العسكرية الأمريكية. وقد قال سام شميت أحد محامين الدفاع في المحاكمة، حول شهادة جمال الفضل :
“ كانت هناك أجزاء انتقائية في شهادة فضل وأعتقد أنها غير صحيحة، للمساعدة في تأكيد صورة أنه ساعد الأمريكيين. اعتقد أنه كذب في عدد من أقواله حول ماهية المنظمة. هذا جعل القاعدة مثل مافيا جديدة أو شيوعيين جدد. وجعل منهم جماعة، وبالتالي فمن السهل مقاضاة أي شخص مرتبط بتنظيم القاعدة على الأعمال أو التصريحات التي أدلى بها ابن لادن.