لوقت طويل، كانت مساعدات الذكاء الاصطناعي في البرمجة رديئة وغير موثوقة وبطيئة للغاية، لكن النماذج المحلية الأحدث أصبحت قادرة على منافسة النماذج السحابية، بشرط أن تستخدمها بحذر.
نماذج كوين الجديدة تجعل البرمجة المحلية قابلة للاستخدام
هناك العديد من نماذج الذكاء الاصطناعي المحلية التي تساعدك في البرمجة محليًا، وهي تتفوق على بعضها باستمرار مع تحسن النماذج بمرور الوقت. في معظم الأوقات، لم أجدها مفيدة للغاية، فهي جيدة كمساعدات إكمال متقدمة، لكنها لا تفعل أكثر من ذلك.
ومع ذلك، أصبحت النماذج الحديثة أكثر جاذبية بكثير. لقد جربت بعض نماذج كوين المتخصصة في البرمجة، ووجدت أنها أصبحت في وضع يمكن استخدامها على أجهزة متوسطة المواصفات، وهي مفيدة عمليًا.
يتعامل هذا المساعد مع إكمال الكود، وإعادة الهيكلة، وكتابة الاختبارات، ويؤديها بشكل جيد. يمكنك استخدامه للتخطيط أو الكتابة مباشرة، لكنني أنصح بشدة بالبدء بالتخطيط أولاً. فهو ليس ذكيًا مثل النماذج السحابية الكبيرة، ويحتاج إلى المساعدة.
دمج المساعد المحلي مع في إس كوديوم عبر امتداد كلاين
أقوم بتشغيل نماذج البرمجة المحلية في في إس كوديوم عبر امتداد كلاين. يظهر كل شيء كشريط جانبي صغير حيث تكتب أوامرك، وتوافق على مقتطفات الكود، وتدير نافذة السياق الخاصة بك.
أستخدم الذكاء الاصطناعي المحلي في الغالب للمهام البسيطة، بينما أترك المهام المعقدة أو إعادة الهيكلة لكلود لتوفير الرموز المميزة (tokens).
نظرًا لأن الإعداد بالكامل يعتمد على أولاما، يمكنني أيضًا جعل الذكاء الاصطناعي المحلي متاحًا لأي جهاز على شبكتي المنزلية. هذا يعني أنني لست مقيدًا بالجلوس أمام سطح مكتبي، بل يمكنني أخذ حاسوبي المحمول معي.
ضع في اعتبارك أن الذكاء الاصطناعي يتطور باستمرار
تتحرك مساحة النماذج المحلية للغة بسرعة كبيرة لدرجة أن ما يعتبر المعيار الذهبي اليوم قد يتجاوز في الشهر القادم، لكن حتى الخيارات الحالية تجعل الإعداد يستحق الجهد.
السحابة أفضل، لكن المحلية رخيصة وذات خصوصية
حتى لو كانت النماذج السحابية أكثر ذكاءً، يجب أن تفكر في الإعداد المحلي. المشكلة الأكثر إلحاحًا هي الخصوصية والأمان. عند تشغيل النموذج محليًا، لا يغادر الكود جهازك أبدًا. إذا كنت تتعامل مع بيانات ملكية لشركة أو معلومات حساسة لعملاء، فهذا أمر مهم للغاية.
تكلفة السحابة أيضًا مسألة. كلود، تشات جي بي تي، جيميني، وغيرهم من اللاعبين الرئيسيين يتقاضون رسومًا شهرية مقابل الوصول. تبدأ الخطط من حوالي 20 دولارًا شهريًا، لكن التكاليف يمكن أن ترتفع بشكل كبير إذا لم تكن حذرًا.
يعني وجود مساعد محلي قابل للتطبيق أنك تستطيع التوقف عن دفع اشتراكات شهرية أو القلق بشأن رسوم الرموز المميزة (tokens).
كلود مساعد ذكاء اصطناعي من أنثروبيك. يمكنه المساعدة في مجموعة واسعة من المهام مثل الكتابة والبرمجة والتحليل والبحث وغير ذلك. على عكس محرك البحث، يفكر كلود في المشكلات بشكل تفاعلي، مما يجعله مفيدًا كشريك تفكير بدلاً من مجرد أداة لاسترجاع المعلومات.
بمجرد أن تمتلك بطاقة الرسومات، لا تصبح التكلفة المستمرة سوى الكهرباء. قد يبدو هذا في البداية عرضًا مشكوكًا فيه، لكن ضع في اعتبارك أن كلود ماكس يكلف 100 دولار على الأقل، وهو الحد الأدنى للاشتراك الذي يحتاجه أي شخص يقوم بالكثير من البرمجة. بعد عام، يمكنك شراء بطاقة RTX 5080. بعد عامين، يمكنك شراء RTX 5090 (إذا تمكنت من العثور عليها بسعر التجزئة). كما أنه من الجيد عدم الاعتماد على خوادم أي شخص آخر.
في أكثر من مناسبة، ذهبت لاستخدام كلود أو كودكس لكتابة بعض الكود، لأجد أن الخوادم متوقفة مؤقتًا. مع الإعداد المحلي الخاص بك، يكون وقت التوقف الخاص بك تحت سيطرتك إلى حد كبير.
إن تشغيل نموذج لغة محلي للبرمجة ليس خاليًا من المساوئ. القيود الحقيقية هي في الأجهزة.
VRAM والتكميم والسياق هي القيود الحقيقية
إذا كنت تستخدم بطاقة رسومات متوسطة مثل 5070 Ti، ستواجه عنق زجاجة. القيود الرئيسية هي VRAM، التي تحدد حجم النموذج الذي يمكنك تحميله وطول نافذة السياق التي يمكنك الحفاظ عليها.
هنا يأتي دور التكميم. سترى مصطلحات مثل Q4 أو Q5 أو Q8. هذا في الأساس مؤشر لمدى ضغط النموذج. بينما يكون النموذج Q8 (8 بت) أكثر دقة، يسمح لك النموذج Q4 (4 بت) بتشغيل نموذج أكبر على أجهزة ذات VRAM أقل مع انخفاض طفيف فقط في جودة الإخراج.
مع التكميم المناسب، أستطيع استخدام بعض نماذج 27 مليار معلمة على 5070 Ti، على الرغم من أن النماذج الأكبر خارج نطاق الوصول.
نماذج اللغة الكبيرة تقنية مثيرة للغاية، لكن كيف تعمل؟
يجب أن تتوقع أيضًا وجود فرق في السرعة بين النماذج المحلية والسحابية. ستكافح النماذج المحلية لتناسب المهام الكبيرة والمعقدة في نافذة السياق.
أصبحت نماذج اللغة المحلية للبرمجة تستحق الاستخدام أخيرًا
عبرت عروض نماذج اللغة المحلية أخيرًا الخط من مجرد فضول ممتع إلى شيء يمكنني استخدامه يوميًا. جزء كبير من جعل هذه النماذج مفيدة هو التكامل. يجب أن تجرب إعداد هذا كإضافة لأدوات السحابة الخاصة بك عن طريق ربطه بفي إس كوديوم أو بيئة التطوير من اختيارك.
قد لا تحل محل النماذج الأكثر قوة لكل مهمة، لكن وجود مساعد خاص مجاني ومتوفر دائمًا على أجهزتك هو إضافة رائعة لأي بيئة تطوير.
