إشعار
يتطلب الوصول إلى هذه الصفحة تخويلاً. يمكنك محاولة تسجيل الدخول أو تغيير الدلائل.
يتطلب الوصول إلى هذه الصفحة تخويلاً. يمكنك محاولة تغيير الدلائل.
Foundry Local هو حل ذكاء الاصطناعي المحلي الشامل لتطبيقات الشحن التي تعمل بالكامل على جهازك. استخدم Foundry Local عندما تريد تشغيل الذكاء الاصطناعي محليا أو العمل دون اتصال أو تقليل زمن الانتقال أو الحفاظ على خصوصية البيانات. يوفر مجموعة تطوير تطوير سهلة الاستخدام (C#، JavaScript، Rust، و Python)، وكتالوجا منسقا للنماذج المحسنة، وتسريع تلقائي للأجهزة—كل ذلك في حزمة خفيفة الوزن.
لا تترك بياناتك الجهاز أبدا، وتبدأ الاستجابات على الفور مع عدم وجود زمن انتقال للشبكة، ويعمل تطبيقك دون اتصال. لا توجد تكاليف لكل رمز ولا بنية تحتية خلفية يجب صيانتها.
يعمل Foundry Local على الأجهزة الخاصة بمستخدميك، بحيث يعمل تطبيقك دون اتصال ولا تحتاج إلى اشتراك Azure. إذا كنت بحاجة إلى استدلال الذكاء الاصطناعي على نطاق المؤسسة على البنية الأساسية الخاصة بك مع عمليات Kubernetes الأصلية وإدارة Azure Arc بدلا من ذلك، راجع Foundry Local على Azure Local.
الميزات
وقت التشغيل الخفيف — يتعامل وقت التشغيل مع اكتساب النماذج، وتسريع الأجهزة، وإدارة النماذج، والاستدلال (عبر ONNX Runtime). يضيف وقت التشغيل حوالي 20 ميجابايت إلى حزمة التطبيق، مما يجعل من العملي تضمين الذكاء الاصطناعي مباشرة في التطبيقات حيث الحجم مهم.
كتالوج النماذج المنسقة — كتالوج لنماذج عالية الجودة مصممة للاستخدام على الأجهزة عبر مجموعة واسعة من الأجهزة الاستهلاكية. يغطي الكتالوج عمليات إكمال الدردشة (مثل GPT OSS، Qwen، DeepSeek، Mistral، وPhi) والنسخ الصوتي (مثل Whisper). كل نموذج يخضع لعملية تكميم وضغط مكثفة لتحقيق أفضل توازن بين الجودة والأداء. يتم إصدار النماذج بشكل معدل، بحيث يمكن لتطبيقك تثبيته على نسخة معينة أو تلقي تحديثات تلقائيا.
تسريع الأجهزة التلقائي - يكتشف Foundry Local الأجهزة المتوفرة على جهازك ويحدد أفضل موفر تنفيذ. يسرع الاستدلال على وحدات معالجة الرسومات ووحدات معالجة الرسومات عند توفرها ويعود إلى وحدة المعالجة المركزية بسلاسة—دون الحاجة إلى رمز كشف للأجهزة. يتم إدارة تحديثات مزود التنفيذ والتعريفات تلقائيا لضمان الأداء الأمثل عبر تكوينات الأجهزة المختلفة.
إدارة النماذج الذكية - يعالج Foundry Local دورة الحياة الكاملة للنماذج على جهازك. يتم تخزين النماذج التي يتم تنزيلها تلقائيا عند الاستخدام الأول مؤقتا محليا للإطلاقات اللاحقة الفورية، ويتم تحديد المتغير الأفضل أداء لأجهزتك المحددة.
واجهة برمجة التطبيقات المتوافقة مع OpenAI — تدعم صيغ الطلبات والاستجابة في OpenAI بما في ذلك تنسيق واجهة برمجة التطبيقات OpenAI Responses. إذا كان تطبيقك يستخدم بالفعل OpenAI SDK، وجهه إلى نقطة نهاية Foundry Local مع تغييرات بسيطة في الكود.
الخادم المحلي الاختياري—خادم ويب متوافق مع OpenAI لخدمة النماذج لعدة عمليات، والتكامل مع أدوات مثل LangChain، أو التجربة من خلال استدعاءات REST. في معظم سيناريوهات التطبيقات المدمجة، استخدم SDK مباشرة—فهو يشغل الاستدلال داخل العملية دون عبء خادم منفصل.
الدافع وراء الذكاء الاصطناعي على الجهاز
Foundry Local مثالي للتطبيقات التي تحتاج إلى:
- احتفظ بالبيانات الحساسة (الصوت والنص والصورة والمزيد) على جهازك.
- اعمل في بيئات ذات اتصال محدود أو غير متصل.
- تقليل تكاليف الاستدلال السحابي لكل رمز.
- تقديم استجابات ذكاء اصطناعي منخفضة التأخير للتفاعلات في الوقت الحقيقي.
اختر خطوتك التالية
| أريد... | الانتقال إلى |
|---|---|
| إنشاء تطبيقي الأول | ابدأ مع فاوندري لوكال |
| فهم وقت التشغيل | نظرة عامة على العمارة المحلية في فاوندري |
| إنشاء روبوت دردشة | إنشاء مساعد دردشة متعدد الأدوار |
| بدء الترميز | استخدام إكمال الدردشة الأصلية |
الأسئلة المتداولة
هل Foundry Local هو خادم ويب وأداة سطر أوامر (CLI)؟
لا. Foundry Local هو حل ذكاء اصطناعي محلي شامل يشحن تطبيقك معه. يتعامل مع اكتساب النماذج، وتسريع الأجهزة، والاستدلال داخل عملية تطبيقك من خلال SDK. خادم الويب الاختياري وواجهة برمجة الأوامر متاحان لسير العمل التطويري، لكن المنتج الأساسي هو وقت تشغيل الذكاء الاصطناعي المحلي وSDK الذي تدمجه مباشرة في تطبيقك.
لماذا لا يدعم Foundry Local كل النماذج المتاحة؟
تم تصميم فاوندري لوكال لتطبيقات الإنتاج الشحنية، وليس لتجربة النماذج متعددة الأغراض. تم اختيار كتالوج النماذج عمدا ليشمل نماذج محسنة لسيناريوهات تطبيقات محددة. يتم اختبار النماذج عبر مجموعة من الأجهزة الاستهلاكية، وصغيرة بما يكفي لتوزيعها على المستخدمين النهائيين. يضمن هذا النهج أن كل نموذج في الكتالوج يقدم أداء موثوقا عند دمجه في تطبيقك—بدلا من تقديم مجموعة واسعة من النماذج ذات سلوك غير متوقع على الجهاز.
هل يمكن تشغيل Foundry Local على خادم؟
تم تحسين Foundry Local للأجهزة التي تعاني من قيود العتاد حيث يصل مستخدم واحد إلى النموذج في كل مرة. بينما يمكنك تقنيا تثبيته وتشغيله على عتاد الخادم، إلا أنه ليس مصمما كمكدس استدلالات خادم.
تم بناء أوقات التشغيل الموجهة للخوادم مثل vLLM أو Triton Inference Server لسيناريوهات متعددة المستخدمين—فهي تتعامل مع قائمة انتظار الطلبات المتزامنة، والتجميع المستمر، ومشاركة وحدات معالجة الرسوميات بكفاءة عبر العديد من العملاء المتزامنين. Foundry Local لا توفر هذه القدرات. بدلا من ذلك، يركز على الاستنتاج الخفيف للمستخدم الواحد مع اكتشاف الأجهزة التلقائي، وإدارة ذاكرة التخزين المؤقت KV، والتعامل مع دورة حياة النماذج التي تناسب تطبيقات العملاء.
إذا كنت بحاجة لتقديم نماذج لعدة مستخدمين في نفس الوقت، استخدم إطار عمل استنتاج خادم مخصص. استخدم Foundry Local عندما يعمل النموذج على جهاز المستخدم النهائي.
هل يرسل Foundry Local الإشعارات أو المخرجات إلى Microsoft؟
يقوم Foundry Local بتشغيل الاستدلال بالكامل على الجهاز. عندما يرسل تطبيقك الأوامر إلى نقطة نهاية محلية في Foundry، تتم معالجة الأوامر ومخرجات النماذج محليا.
لا يزال بإمكان فاوندري لوكال استخدام الشبكة ل:
- تنزيلات النماذج والمكونات—في المرة الأولى التي يعمل فيها نموذج، يقوم Foundry Local بتنزيل ملفات النماذج وقد يقوم أيضا بتنزيل مزودات التنفيذ لأجهزة المستخدم.
- التشخيصات الاختيارية—إذا أبلغ المستخدم عن مشكلة، قد يختار مشاركة السجلات.
يتم تنظيم استخدام Foundry Local وفقا لشروط المنتجات والتراخيص التي تنطبق على البرنامج والنماذج المستخدمة. إذا سمحت الشروط Microsoft بجمع المعلومات التشخيصية، يتم وصف التفاصيل في تلك الشروط وبيان الخصوصية Microsoft.
هل يتطلب اشتراك في Azure؟
لا. يعمل Foundry Local بالكامل على الأجهزة المحلية. لا يتطلب اشتراك في Azure.
ما الأنظمة الأساسية المدعومة؟
يدعم Foundry Local أنظمة Windows وmacOS (Apple silicon) ولينكس.