استحوذت شركة Red Hat، المتخصصة في البرمجيات مفتوحة المصدر والمملوكة لشركة IBM، على شركة Neural Magic، وهي شركة ناشئة متخصصة في تحسين خوارزميات الذكاء الاصطناعي لتسريع عملية الاستدلال على الأجهزة عالية الأداء.
تأسست Red Hat في عام 1993 في الولايات المتحدة، وهي معروفة عالميًا بتطوير حلول البرمجيات المفتوحة المصدر، وبالأخص في مجال أنظمة التشغيل .linux، تقدم الشركة مجموعة واسعة من المنتجات والخدمات التي تعتمد على البرمجيات مفتوحة المصدر، مما يمكن الشركات من بناء بيئات تكنولوجيا معلومات مرنة وآمنة وقابلة للتوسع.
من ناحية أخرى، تركز Neural Magic على تطوير خوارزميات تسريع الاستدلال في الذكاء الاصطناعي، وهي العملية التي يتم خلالها استخدام نموذج تم تدريبه مسبقًا لتوليد استنتاجات أو نتائج بناءً على بيانات جديدة. تُعد هذه المرحلة أساسية في الذكاء الاصطناعي، حيث يعتمد النظام على البيانات التي تم تدريبه عليها لتقديم التوقعات أو القرارات.
في ظل تزايد هيمنة الذكاء الاصطناعي على مشهد التكنولوجيا، تزداد حجم نماذج اللغة الكبيرة التي تدعم الأنظمة الذكية، مما يؤدي إلى الحاجة إلى قدرات حوسبية ضخمة، وطاقة كبيرة، ومهارات متخصصة. وبسبب هذه التحديات، يظل بناء نماذج لغوية فعّالة وقوية بعيد المنال بالنسبة للكثير من المؤسسات، نظرًا لتكاليفها المرتفعة.
لذلك، تسعى Red Hat إلى معالجة هذه التحديات وجعل الذكاء الاصطناعي في متناول أيدي المؤسسات عبر الابتكار المفتوح من خلال vLLM. تم تطوير vLLM بواسطة جامعة كاليفورنيا في بيركلي، وهو مشروع مفتوح المصدر يهدف إلى دعم النماذج المفتوحة مع توفير تسريع متقدم للاستدلال. كما يدعم vLLM مختلف منصات الأجهزة بما في ذلك وحدات معالجة الرسوميات AMD، AWS Neuron، Google TPUs، Intel Gaudi، NVIDIA GPUs، بالإضافة إلى وحدات المعالجة المركزية x86.
من خلال دمج خبرة Neural Magic في هذا المشروع، جنبًا إلى جنب مع تقنيات Red Hat في الذكاء الاصطناعي السحابي الهجين، سيتمكن العملاء من تبني استراتيجيات ذكاء اصطناعي مرنة تلبي احتياجاتهم الخاصة، بغض النظر عن حجم بياناتهم أو تعقيد أنظمتهم.