أطلقت PrismML Bonsai 27B: نموذج ذكاء اصطناعي بحجم 3.9 جيجابايت يعمل على iPhone

أطلقت PrismML الأسبوع الماضي Bonsai 27B، وهو نموذج ذكاء اصطناعي يبلغ 27 مليار مُعلِّم/بارامتر، ومُضغَّط إلى 3.9 غيغابايت، ويعمل على iPhone 17 Pro Max بسرعة 11 رمزًا (token) في الثانية. ويُحافظ المتغير الثلاثي (ternary) على 94.6% من أداء المعايير بدقة كاملة، مع ملاءمته لقيود ذاكرة الهواتف الذكية، وهو ما يمثل المرة الأولى التي يتجاوز فيها نموذج ضمن هذا المستوى من القدرات ميزانية تقنية لذاكرة جهاز استهلاكي. وتُخفض طريقة الضغط، المبنية على ملكية فكرية من Caltech، وزن كل قيمة في النموذج من 16 بتًا إلى قيمة إشارة واحدة، لتصل النسخة الثنائية (binary) إلى 1.125 بت لكل وزن—أقل بحجم 14 مرة من الأصل بدقة كاملة.

Compression Technology Reduces Model Weights to Sign Values

تُقلِّص طريقة الضغط وزن كل قيمة في النموذج من 16 بتًا من دقة الفاصلة العائمة إلى قيمة إشارة واحدة—+1 أو -1 في النسخة الثنائية، وهي إحدى ثلاث قيم في النسخة الثلاثية. وتتشارك كل مجموعة من 128 قيمة (weights) في عامل تحجيم (scaling) بسعة 16 بتًا. يضيف النموذج الثلاثي حالة صفر لتعزيز قدرة تعبيرية بشكل طفيف، ليستقر عند 1.71 بت لكل وزن. وبحجم 5.9 غيغابايت، تصل النسخة الثلاثية إلى نحو 26 رمزًا في الثانية على حاسوب محمول M5 Pro.

لا توجد ممرات للهروب إلى دقة أعلى: إذ تُضغط أيضًا تضمينات (embeddings) وطبقات الانتباه (attention) ورأس نموذج اللغة الكامل من البداية إلى النهاية. تحافظ معظم عمليات التكميم على بعض الطبقات الحساسة بدقة كاملة، ما يزيد حجمها مقابل جودة أفضل. يستخدم النموذج هيكل انتباه هجين، حيث تكون نحو 75% من الطبقات خطية بدلًا من انتباه تربيعي كامل، ما يجعل نافذة سياق بحجم 262K رمزًا ممكنة على الجهاز.

في مارس، شحنت PrismML Bonsai 8B، وهو نموذج بحجم 1.15 غيغابايت أثبت أن بنية 1-bit يمكن أن تصمد عند 8 مليارات بارامتر. كلا النموذجين متاحان مجانًا بموجب رخصة Apache 2.0.

Benchmark Performance Averages 80.49 Across 15 Tests

عبر 15 معيارًا تمت دراستها في وضع التفكير (thinking mode) على وحدات NVIDIA H100 GPUs—تشمل المعرفة والرياضيات والترميز واستخدام الأدوات—يسجّل Ternary Bonsai 27B متوسط 80.49، أي 94.6% من أداء النموذج بدقة كاملة. وتصل نسخة 1-bit إلى 76.11. وتبلغ نتائج AIME25 وAIME26، المأخوذة من مسابقة American Invitational Mathematics Examination، 93.7% في Ternary Bonsai 27B مقابل 95.3% في Qwen 3.6B. وتُحرز Bonsai 86 نقطة في الترميز مقابل 88 لـ Qwen 3.6، و77% في المعرفة العامة مقابل 83 لـ Qwen 3.6.

تُرفق PrismML طبقة DSpark لفك التشفير الاستباقي (speculative decoding) مع النموذج—وهي مُسَوِّد/مُقترح خفيف يقترح كتلًا من رموز مرشحة، بينما يتحقق النموذج الرئيسي من تلك المقترحات في تمريرة أمامية واحدة بدلًا من توليد رمز-ب-رمز. وعلى جهاز H100 يضيف ذلك زيادة في الإنتاجية قدرها 1.37x دون تغيير في جودة المخرجات. وعلى Apple Silicon لا يتم تفعيله بعد افتراضيًا.

Real-World Testing Produces Functional Code and Creative Writing

اختبرت الجهة المختصة Bonsai 27B في لعبة Zombie Type—وهي لعبة متصفح رعب قائمة على الكتابة (typing-horror) بمنظور الشخص الأول. أنتجت جولتان من الترميز اكتشافًا سلسًا للتصادم، ومنطقًا صحيحًا للتسجيل، ورسومات بقيت متماسكة. يفهم النموذج البنية مبكرًا؛ وتقوم التمريرة الثانية بتحسين ما تم بدلاً من إعادة بنائه. ويبدو أن بعض النماذج أكثر تفصيلًا من تلك الموجودة في GPT 5.6 Sol.

بالنسبة للكتابة الإبداعية، ينتج Bonsai قصصًا بمنطق داخلي متسق، وإيقاع، وقوس سردي—على قدم المساواة مع Claude Haiku أو حتى Sonnet من حيث الجهد الأقل على مطالبات متقاربة. ولا تبدو النتائج مبتكرة بشكل خاص مع المطالبات الصفرية (zero-shot).

Apple Evaluates Technology for On-Device Use

تُجري Apple محادثات مبكرة مع PrismML بشأن تقنية الضغط الأساسية، بحسب CNBC. وأكد الرئيس التنفيذي لـ PrismML Babak Hassibi لـ CNBC أن الشركة في محادثات مبكرة مع Apple، التي تقيّم تقنية الضغط لاستخدام محتمل على الجهاز. وقال Hassibi إن نموذج Gemma مضغوط سيأتي بعد ذلك في خط الإنتاج، يليه نماذج أكبر على خط الحدود (frontier models).

FAQ

ما هو نموذج PrismML Bonsai 27B؟ Bonsai 27B هو نموذج ذكاء اصطناعي يضم 27 مليار بارامتر، ومُضغَّط إلى 3.9 غيغابايت، ويعمل على iPhone 17 Pro Max بسرعة 11 رمزًا في الثانية. ويُحافظ المتغير الثلاثي على 94.6% من أداء المعايير بدقة كاملة باستخدام تقنية ضغط مبنية على ملكية فكرية من Caltech تُحوِّل أوزان النموذج إلى قيم إشارة.

كيف أداء Bonsai 27B في المعايير؟ عبر 15 معيارًا تمت دراستها على وحدات NVIDIA H100 GPUs، يبلغ متوسط Ternary Bonsai 27B 80.49، أي 94.6% من النموذج بدقة كاملة. وفي اختبارات الرياضيات AIME يسجل 93.7%، وفي مهام الترميز يسجل 86 نقطة، وفي المعرفة العامة يسجل 77%—مع الحاجة إلى ذاكرة أقل بكثير من النماذج المتقاربة.