كيف نبني البرمجيات بوكلاء الذكاء الاصطناعي، وما الذي لا يزال يحتاج إنسانًا

السؤال المثير عن الذكاء الاصطناعي في البرمجيات ليس هل يستطيع كتابة الشيفرة. فهو يستطيع منذ فترة. السؤال هو ما الذي عليك أن تضعه حوله قبل أن يصبح ناتجه آمنًا للتشغيل أمام عملاء يدفعون.

وهذا الترتيب الذي استقررنا عليه، وسبب كل جزء فيه.

يبدأ مكتوبًا

قبل أي شيفرة، يكون التغيير مواصفة: ماذا يفعل، وما الذي يجب ألّا يكسره، وكيف سنعرف أنه نجح.

وهذا ليس إجراءً لذاته. فالوكيل حين يتلقّى تعليمة غامضة يُنتج شيئًا معقولًا وخاطئًا، والمعقول الخاطئ أغلى في التفكيك من لا شيء. وكتابة المواصفة هي أيضًا موضع أغلب الخلاف، وهو أرخص موضع لحدوث الخلاف.

الوكلاء ينفّذون، في عزلة

معظم العمل يقوم به وكلاء، في فروع لا يستخدمها أحد غيرهم. لا يمسّون شيئًا مشتركًا. ولا يمسّون بيئة الإنتاج. وإن كانت النتيجة خاطئة فالتكلفة فرع يُهمَل.

وتلك العزلة هي كل سبب أمان فعل هذا بحجم كبير. فنمط فشل الوكيل ليس أنه يرفض، بل أنه يفعل الخطأ بثقة، وعلى الاحتواء أن يفترض ذلك.

المراجع ليس هو الكاتب أبدًا

تُراجَع المخرجات بنماذج من مزوّدين مختلفين، إضافة إلى بوابة مراجعة آلية.

والسبب ليس أن كثرة الآراء أفضل. بل أن النموذج لا يرى نقاط عماه بموثوقية أعلى من الإنسان. وسؤال من كتب الشيفرة عمّا إذا كانت جيدة يعطيك الإجابة التي كان يعتقدها أصلًا. تدريب مختلف، وأنماط فشل مختلفة، ومواضع الاختلاف هي مواضع الأخطاء.

مهندس يوقّع

إنسان يقرأ الفرق، ويُصلح ما يلزم، ويضع اسمه على الالتزام.

وهذا هو الخط الأهم، وهو الأكثر تخطّيًا. لا لأن الإنسان يلتقط كل شيء، بل لأن أحدًا ما يجب أن يكون مسؤولًا. فخط إنتاج لم يختر فيه أحدٌ النشر هو خط لا يتحمّل فيه أحد المسؤولية عند العطل، وتلك ليست مشكلة تقنية بل تنظيمية.

ما الذي يشتريه هذا فعلًا

السرعة تُكلّف الجودة عادةً. وهذا هو الترتيب الذي وجدناه ولا يفعل، وآليته غير براقة: الحجم من الوكلاء، والحكم يبقى بشريًا، والبوابة إنسان مسؤول عمّا يمر.

وبه نُبقي ستة منتجات لنا وأكثر من عشرين منصة عميل على المعيار نفسه بفريق ما كان ليفعل ذلك يدويًا.

وما الذي لا يشتريه

لا يُلغي الحاجة إلى معرفة ما الذي تبنيه. فالوكيل سينفّذ الخاصية الخطأ ببراعة. ولا يُلغي الحاجة إلى أشخاص يقرؤون الفرق ويحكمون على صوابه، وهؤلاء ليسوا أرخص ولا أسهل في الإيجاد مما كانوا.

ولا يُلغي المراجعة. وهي الزاوية التي يقتطعها الناس أولًا، لأنها الجزء الذي لا يحدث فيه شيء مرئي، وهي الزاوية التي تقرّر إن كان ما سبقها يستحق العناء.

لماذا نصف طريقتنا

لأنها الطريقة نفسها التي نُركّبها حين يطلب عميل أتمتة عملياته. ولا نبيع أسلوب عمل لا نستخدمه.