التكيّف مع العتاد
تُقرأ الذاكرة وقدرة المعالجة والتخزين والتسريع من الجهاز. تُوضع الخطة لذلك الجهاز، لا لجهاز متوسط، وتتغير حين يتغير العتاد.
التقنية
كيف تكيّف بيئة التشغيل الذكاء الاصطناعي مع جهازك.
النموذج الذي يتسع للجهاز نظريًا لا يعمل دائمًا جيدًا عمليًا. تخطط بيئة تشغيل AI Stays Local وفق العتاد الموجود فعلًا، ولا توصي إلا بفئات لها أدلة مسجَّلة، وتبقي دورة الحياة كاملة على جهازك. تشرح هذه الصفحة النهج، لا الأساليب الداخلية للمحرك.
النهج
سبعة مبادئ وراء كل فئة.
فئات النماذج
الفئة نموذج مفتوح الأوزان محدد بمراجعة مثبَّتة ودقة معلنة، مع العتاد الذي قُيِّم عليه وما توصل إليه التقييم. وهي الوحدة التي توصي بها بيئة التشغيل وتثبّتها وتشغّلها.
إدراك الذاكرة وقدرة المعالجة والتخزين
الذاكرة القابلة للاستخدام هي الذاكرة الكلية ناقص ما يحتفظ به نظام التشغيل. تُعامل الذاكرة الموحدة وذاكرة RAM للنظام وذاكرة GPU المنفصلة كموارد مختلفة، والمساحة التخزينية الحرة جزء من الخطة.
التشغيل المحلي
يجري الاستدلال على الجهاز الذي تتحكم فيه. الاستدلال المحلي العادي لا يُحاسَب بالتوكن، ويُجاب السؤال حيث طُرح.
دورة التنفيذ
الحصول والتحقق وبدء التشغيل وفحص السلامة والإيقاف والإزالة من مهام بيئة التشغيل. التثبيت الفاشل لا يستبدل نموذجًا جرى التحقق منه وكان يعمل.
تحقق قائم على الأدلة
التشغيل، وإتمام التحقق، وقابلية الاستخدام، والتوفر حقائق منفصلة تُسجَّل كل منها على حدة. لا يُعامل عدد المعاملات دليلًا أبدًا، وكل رقم منشور يذكر عتاده ومنهجيته.
حدود واضحة للخصوصية
تُعالَج المدخلات والمستندات على الجهاز أثناء الاستدلال المحلي. تُستخدم الشبكة للحصول على بيئة التشغيل وملفات النموذج، ولا تحمل عمليات التحقق من الترخيص أي محتوى، والقياس عن بُعد معطَّل افتراضيًا.
لماذا فئات لا نماذج
قد يكون النموذج نفسه الخيار الصحيح على جهاز والخيار الخاطئ على جهاز آخر.
فائدة النموذج تتوقف على النموذج، ودقته، والذاكرة التي يستطيع استخدامها، والتسريع المتاح، وسرعة التخزين الذي يُقرأ منه، والعمل المطلوب منه. رقم الذاكرة وحده لا يتنبأ إلا بالقليل.
لذلك توصي بيئة التشغيل بفئات بدلًا من أسماء نماذج. تحمل كل فئة الأدلة التي تستند إليها وحالة لكل بُعد، ولا تُستمد التوصية لجهاز ما إلا من فئات تغطي أدلتها هذا النوع من العتاد.
ما هو منشور
ما يمكنك التحقق منه، وما يبقى داخل المنتج.
- الفئة: النموذج، والناشر، والترخيص، والمراجعة المثبَّتة، والدقة.
- العتاد الذي أُخذ عليه كل قياس، والمنهجية التي يستند إليها.
- حالة كل فئة: هل تعمل، وهل جرى التحقق منها، وهل هي قابلة للاستخدام، وهل هي متاحة.
- كيف يُتحقق من الحصول على النماذج، وما الذي يقبله API المحلي.
كيفية توزيع المحرك لبيانات النموذج في الذاكرة ونقلها جزء من المنتج، ولا تُوصف على هذا الموقع.
الفضل لأصحابه
مبني على نماذج مفتوحة، مع ذكر أصحابها بالاسم.
كل نموذج ملك لناشره، وفق ترخيصه الخاص. يُنسب عمل المحركات الأصلية الذي تستخدمه بيئة التشغيل إلى أصحابه في إشعارات المنتج، ولا تُقدَّم النتائج التي تعلنها المشاريع الأصلية أبدًا على أنها نتائجنا. AI Stays Local هو طبقة المنتج فوق ذلك: تخطيط العتاد، والحصول على النماذج، وتنسيق بيئة التشغيل، وإدارة دورة الحياة، والتطبيقات. بيئة التشغيل مملوكة ملكية خاصة ولا توصف بأنها مفتوحة المصدر.