شرکت Perplexity قابلیت جدیدی با نام Hybrid Compute را برای پلتفرم عامل هوش مصنوعی خود، Computer، معرفی کرده است. این فناوری به یک عامل هوش مصنوعی واحد اجازه می‌دهد وظایف خود را میان مدل‌های مختلف تقسیم کند؛ به این معنا که بخشی از پردازش می‌تواند توسط مدل‌های پیشرفته‌ای که در فضای ابری اجرا می‌شوند انجام شود و بخش دیگری به مدل‌های کوچک‌تر و Open-Weight سپرده شود که به‌صورت محلی روی کامپیوترهای مک مجهز به تراشه‌های Apple Silicon اجرا می‌شوند.
Hybrid Compute چیست و چگونه کار می‌کند؟
معماری Hybrid Compute با هدف ترکیب توان پردازشی مدل‌های ابری و مدل‌های محلی طراحی شده است. در این ساختار، یک عامل هوش مصنوعی مجبور نیست تمام وظایف خود را در یک محیط پردازشی انجام دهد و می‌تواند بر اساس نوع وظیفه و داده‌های مورد استفاده، بخشی از فرایند را به فضای ابری و بخش دیگری را به دستگاه کاربر منتقل کند. به این ترتیب، مدل‌های قدرتمند ابری برای انجام وظایف پیچیده‌تر در دسترس خواهند بود و مدل‌های کوچک‌تر محلی می‌توانند وظایفی را که اجرای آن‌ها روی دستگاه امکان‌پذیر است، بر عهده بگیرند.
داده‌های حساس روی دستگاه باقی می‌مانند
یکی از مهم‌ترین ویژگی‌های این رویکرد، نحوه مدیریت داده‌های حساس است. بر اساس اطلاعات ارائه‌شده، داده‌های محرمانه می‌توانند به مدل‌هایی هدایت شوند که به‌صورت محلی روی دستگاه کاربر اجرا می‌شوند. در چنین شرایطی، برای انجام برخی وظایف لازم نیست اطلاعات حساس به زیرساخت‌های ابری ارسال شوند و بخشی از پردازش مستقیماً روی کامپیوتر کاربر انجام خواهد شد. این معماری می‌تواند برای کاربردهایی که کنترل بیشتر روی داده‌ها و حفظ حریم خصوصی اهمیت دارد، مورد توجه قرار گیرد.

 


نقش Apple Silicon در پردازش محلی
اجرای مدل‌های Open-Weight به‌صورت محلی روی مک‌های مجهز به Apple Silicon یکی از بخش‌های اصلی این قابلیت است. این معماری به Perplexity امکان می‌دهد بخشی از پردازش عامل هوش مصنوعی را مستقیماً روی دستگاه انجام دهد و برای برخی وظایف، وابستگی کمتری به زیرساخت‌های ابری داشته باشد. در نتیجه، یک عامل هوش مصنوعی می‌تواند در یک فرایند مشخص از مدل ابری استفاده کند و در بخش دیگری از همان فرایند، پردازش را به یک مدل محلی بسپارد.
Perplexity به‌دنبال تغییر نحوه اجرای عامل‌های هوش مصنوعی است
معرفی Hybrid Compute نشان می‌دهد Perplexity به دنبال رویکردی ترکیبی برای اجرای عامل‌های هوش مصنوعی است؛ رویکردی که در آن پردازش ابری و محلی در کنار یکدیگر قرار می‌گیرند. در این مدل، یک عامل هوش مصنوعی می‌تواند به‌جای اجرای تمام وظایف در فضای ابری، بخشی از کار را روی دستگاه کاربر انجام دهد و در مواقعی که به توان مدل‌های پیشرفته‌تر نیاز دارد، از پردازش ابری استفاده کند.

منبع: VentureBeat

مقاله اصلی:
Your files stay put: Perplexity’s hybrid AI keeps confidential data off the cloud

 






مطالب مرتبطزیرساخت لازم برای ساخت اپلیکیشن با هوش مصنوعیمسیر یادگیری آرانیک آکادمیLaurent Sifre به Microsoft پیوست؛ تغییر مهم در تیم H Company