Perplexity سراغ هوش مصنوعی هیبریدی رفت؛ داده‌های حساس روی دستگاه می‌مانند

Hybrid Compute چیست و چگونه کار می‌کند؟

معماری Hybrid Compute با هدف ترکیب توان پردازشی مدل‌های ابری و مدل‌های محلی طراحی شده است. در این ساختار، یک عامل هوش مصنوعی مجبور نیست تمام وظایف خود را در یک محیط پردازشی انجام دهد و می‌تواند بر اساس نوع وظیفه و داده‌های مورد استفاده، بخشی از فرایند را به فضای ابری و بخش دیگری را به دستگاه کاربر منتقل کند. به این ترتیب، مدل‌های قدرتمند ابری برای انجام وظایف پیچیده‌تر در دسترس خواهند بود و مدل‌های کوچک‌تر محلی می‌توانند وظایفی را که اجرای آن‌ها روی دستگاه امکان‌پذیر است، بر عهده بگیرند.

داده‌های حساس روی دستگاه باقی می‌مانند

یکی از مهم‌ترین ویژگی‌های این رویکرد، نحوه مدیریت داده‌های حساس است. بر اساس اطلاعات ارائه‌شده، داده‌های محرمانه می‌توانند به مدل‌هایی هدایت شوند که به‌صورت محلی روی دستگاه کاربر اجرا می‌شوند. در چنین شرایطی، برای انجام برخی وظایف لازم نیست اطلاعات حساس به زیرساخت‌های ابری ارسال شوند و بخشی از پردازش مستقیماً روی کامپیوتر کاربر انجام خواهد شد. این معماری می‌تواند برای کاربردهایی که کنترل بیشتر روی داده‌ها و حفظ حریم خصوصی اهمیت دارد، مورد توجه قرار گیرد.

نقش Apple Silicon در پردازش محلی

اجرای مدل‌های Open-Weight به‌صورت محلی روی مک‌های مجهز به Apple Silicon یکی از بخش‌های اصلی این قابلیت است. این معماری به Perplexity امکان می‌دهد بخشی از پردازش عامل هوش مصنوعی را مستقیماً روی دستگاه انجام دهد و برای برخی وظایف، وابستگی کمتری به زیرساخت‌های ابری داشته باشد. در نتیجه، یک عامل هوش مصنوعی می‌تواند در یک فرایند مشخص از مدل ابری استفاده کند و در بخش دیگری از همان فرایند، پردازش را به یک مدل محلی بسپارد.

Perplexity به‌دنبال تغییر نحوه اجرای عامل‌های هوش مصنوعی است

معرفی Hybrid Compute نشان می‌دهد Perplexity به دنبال رویکردی ترکیبی برای اجرای عامل‌های هوش مصنوعی است؛ رویکردی که در آن پردازش ابری و محلی در کنار یکدیگر قرار می‌گیرند. در این مدل، یک عامل هوش مصنوعی می‌تواند به‌جای اجرای تمام وظایف در فضای ابری، بخشی از کار را روی دستگاه کاربر انجام دهد و در مواقعی که به توان مدل‌های پیشرفته‌تر نیاز دارد، از پردازش ابری استفاده کند.

منبع: VentureBeat

مقاله اصلی:
Your files stay put: Perplexity’s hybrid AI keeps confidential data off the cloud