شرکت TypeSafe AI از نسل جدیدی از مدلهای هوش مصنوعی با نام Jev پردهبرداری کرد؛ مدلی که مسیر متفاوتی نسبت به چتباتهای معروفی مانند چتجیپیتی و کلاد در پیش گرفته است. Jev برای گفتوگو یا تولید متن طولانی ساخته نشده، بلکه قرار است به عنوان یک موتور تصمیمگیری فوقسریع، ارزان و قابل اتکا در دل نرمافزارها عمل کند.
TypeSafe این مدل را نخستین نمونه عمومی از خانواده جدیدی تحت عنوان «مدلهای سیستم یک» یا System One Models معرفی میکند. این نامگذاری از کتاب مشهور «تفکر، سریع و کند» اثر دنیل کانمن الهام گرفته شده؛ جایی که «سیستم ۱» به تفکر سریع، شهودی و خودکار انسان اشاره دارد. Jev نیز دقیقاً همین نقش را میخواهد در معماری نرمافزارها ایفا کند: تصمیمهای کوچک، پرتکرار و فوری را در کسری از ثانیه بگیرد.
تفاوت Jev با مدلهای زبانی بزرگ چیست؟
مدلهای زبانی بزرگ (LLM) مانند جمینای، کلاد و چتجیپیتی پاسخهای خود را به صورت ترتیبی و توکنبهتوکن تولید میکنند. هر توکن میتواند یک کلمه، بخشی از یک کلمه یا یک علامت نگارشی باشد و همین فرآیند ترتیبی، دلیل اصلی کندی و هزینه بالای آنهاست.
Jev اما فلسفه دیگری دارد. این مدل متنی تولید نمیکند، بلکه اطلاعات ورودی را تحلیل کرده و به پرسشهای از پیش تعریفشده پاسخ میدهد؛ پاسخهایی که نرمافزار میتواند مستقیماً و بدون نیاز به پردازش متنی اضافی از آنها استفاده کند.
برای نمونه، یک فروشگاه اینترنتی میتواند دادههای یک سفارش را به Jev بدهد و بپرسد: «احتمال تقلب در این سفارش چقدر است؟» یا یک سامانه پشتیبانی میتواند از مدل بخواهد مشخص کند که پیام کاربر به بخش فروش مربوط است، پشتیبانی فنی یا امور مالی. به بیان ساده، Jev مانند یک دستور «اگر» هوشمند در برنامهنویسی عمل میکند؛ با این تفاوت که به جای قوانین ثابت و دستی، قادر است معنا و محتوای متون پیچیده را درک و درباره آنها قضاوت کند.
Jev چگونه تصمیم میگیرد؟
کار با Jev بر دو ورودی اصلی استوار است. نخست «وضعیت» یا State که شامل تمام اطلاعات لازم برای تصمیمگیری است؛ از متن چت مشتری و مشخصات حساب کاربری گرفته تا جزئیات یک تراکنش مالی. دوم، مجموعهای از سؤالها که توسعهدهنده از مدل میپرسد.
این سؤالها در نسخه فعلی در سه قالب تعریف میشوند:
- تأیید یا رد یک گزاره (پاسخ بله/خیر)
- انتخاب یک گزینه از میان چند گزینه از پیش تعیینشده
- امتیازدهی روی یک بازه عددی مشخص
نکته مهم این است که Jev علاوه بر پاسخ نهایی، میزان اطمینان خود را نیز اعلام میکند و میتواند چندین سؤال درباره یک مجموعه داده یکسان را به صورت موازی پاسخ دهد. برای مثال، با یک فراخوانی واحد میتواند همزمان موضوع پیام، میزان فوریت، لحن عصبانی مشتری و چند ویژگی دیگر را تشخیص دهد.
خروجی ساختاریافته؛ برگ برنده Jev
یکی از تمایزهای کلیدی Jev مفهوم «خروجی ساختاریافته» یا Structured Output است. در مدلهای زبانی معمولی اگر بپرسید «آیا این تراکنش مشکوک است؟» ممکن است پاسخی چند پاراگرافی و توصیفی دریافت کنید که استخراج پاسخ دقیق از آن برای نرمافزار دشوار است.
در Jev اما قالب خروجی از قبل کاملاً مشخص است. اگر گزینههای مجاز فقط «مشکوک» و «عادی» باشند، مدل اجازه ندارد گزینه سومی بسازد یا به جای پاسخ، توضیح طولانی تحویل دهد. TypeSafe از این ویژگی با عنوان «ایمنی نوع» یا Type Safety یاد میکند؛ یعنی خروجی همیشه در همان ساختاری باقی میماند که برنامهنویس تعریف کرده است.
با این حال، این ویژگی به معنای مصونیت از خطا نیست. Jev ممکن است پاسخ را دقیقاً در قالب درست برگرداند اما گزینه اشتباه را انتخاب کند. بنابراین ادعای «عدم توهم» در Jev باید به درستی تفسیر شود: مدل توهم ساختاری ندارد و خارج از چارچوب تعریفشده پاسخی تولید نمیکند، اما همچنان احتمال تصمیم نادرست وجود دارد.
ادعای سرعت و هزینه؛ ۲۰۰ برابر سریعتر؟
TypeSafe درباره عملکرد Jev اعداد قابل توجهی را مطرح کرده است. به گفته این شرکت، زمان پاسخدهی Jev بین ۷۰ تا ۵۰۰ میلیثانیه است و در وظایف تخصصی خود میتواند ۴۰ تا ۲۰۰ برابر سریعتر از مدلهای بزرگ باشد.
از نظر هزینه نیز رقم ۰.۰۴۲ دلار برای هر یک میلیون توکن ورودی (معادل ۴۲ دلار برای یک میلیارد توکن) اعلام شده و برای خروجی هیچ هزینهای دریافت نمیشود، چون Jev اصولاً متن طولانی تولید نمیکند. در یکی از ارزیابیهای داخلی TypeSafe حتی از ۱۹۳.۶ برابر سرعت بیشتر و ۴۴۴.۶ برابر هزینه کمتر نسبت به مدلهای مقایسهشده سخن به میان آمده است.
با این وجود، خود شرکت تأکید میکند این اعداد سقف بهبودهای مشاهدهشده هستند و لزوماً در تمام سناریوهای واقعی تکرار نخواهند شد. همچنین تمام گردشهای کاری (Workflow) مورد آزمایش توسط تیم داخلی TypeSafe طراحی شدهاند، بنابراین احتمال سوگیری در نتایج به طور کامل رد نمیشود. گردش کار به مجموعه مراحل خودکار یک نرمافزار برای انجام یک وظیفه گفته میشود؛ مانند دریافت سفارش، بررسی تقلب و تأیید یا ارجاع آن به کارشناس انسانی.
آزمایش مستقل چه میگوید؟
برای داشتن تصویری واقعبینانهتر، آزمایش مستقلی که توسط مایک تیلور از مجموعه Every و با استناد به مقاله Axentia انجام شده، قابل توجه است. در این آزمایش، ۲۱ سؤال درباره ۳۷ سند مختلف از Jev پرسیده شد؛ در مجموع ۷۷۷ تصمیم که مدل آنها را در کمتر از ۰.۷ ثانیه و با هزینهای حدود یکچهارم سنت تولید کرد.
در آزمایشی دیگر، هفت خطای عمدی در یک متن گنجانده شد. Jev موفق به شناسایی ۶ مورد از ۷ خطا شد، در حالی که مدل زبانی بزرگترِ مقایسهشده هر هفت مورد را یافت. در همین تست، Jev حدود ۲۵ برابر سریعتر و ۵۸۰ برابر ارزانتر ارزیابی شد.
این نتایج یک نکته کلیدی را روشن میکند: Jev در سرعت و هزینه برتری چشمگیری دارد، اما این برتری لزوماً به معنای دقت بالاتر در همه وظایف نیست و در برخی موارد مدلهای بزرگتر همچنان دقیقتر عمل میکنند.
Jev کجا به کار میآید و کجا نه؟
هدف TypeSafe جایگزینی کامل مدلهای بزرگ با Jev نیست. مأموریت اصلی این مدل، بر عهده گرفتن تصمیمهای کوچک و پرتکراری است که امروز به ناچار با LLMهای گرانقیمت انجام میشوند.
برای مثال، یک سیستم پشتیبانی میتواند ابتدا با Jev موضوع و فوریت پیام را تشخیص دهد و سپس بر اساس آن، پیام را به بخش مربوطه ارجاع دهد. یا یک موتور جستوجوی هوشمند میتواند صدها سند را با Jev امتیازدهی کرده و تنها چند سند برتر را برای تحلیل عمیق به یک مدل بزرگ بسپارد. در چنین معماری ترکیبی، Jev تصمیمهای ساده و پرتعداد را میگیرد، کدهای قطعی قوانین تجاری را اعمال میکنند و موارد پیچیده یا کماطمینان به انسان یا مدل قدرتمندتر سپرده میشوند.
در مقابل، Jev برای کارهایی مانند نوشتن پاسخ به مشتری، تولید مقاله، کدنویسی یا طراحی راهحلهای چندمرحلهای مناسب نیست و همچنان به مدلهای مولد نیاز است. حتی برای تصمیمهای ساده نیز اگر بتوان مسئله را با یک قانون قطعی حل کرد — مثلا بررسی اینکه مبلغ فاکتور از ۱۰۰۰ دلار بیشتر است یا نه — استفاده از هوش مصنوعی تنها پیچیدگی بیمورد ایجاد میکند. Jev زمانی ارزشمند است که دادهها نامنظم، متنی و نیازمند درک معنایی باشند.
هنوز در مرحله دسترسی اولیه
Jev در حال حاضر در مرحله دسترسی اولیه (Early Access) قرار دارد؛ یعنی محصول از نظر فنی قابل استفاده است اما دسترسی عمومی هنوز باز نشده و کاربران به تدریج از فهرست انتظار پذیرفته میشوند.
به گزارش Axentia، ابهامات مهمی نیز باقی مانده است. TypeSafe تاکنون جزئیاتی مانند اندازه دقیق مدل، دادههای آموزش، سقف تعداد درخواستها و شاخصهای عملکرد در محیط واقعی را به صورت عمومی منتشر نکرده است.
با این حال، مهمترین دستاورد Jev شاید نه عدد «۲۰۰ برابر سریعتر»، بلکه ایده زیربنایی آن باشد: شاید برای بسیاری از تصمیمهای درونبرنامهای، اساساً نیازی به تولید متن توسط یک مدل زبانی عظیم نداشته باشیم. اگر این ایده در مقیاس بزرگ نیز موفق عمل کند، مدلهایی مانند Jev میتوانند در کنار LLMها قرار گیرند و بخش بزرگی از بار تصمیمگیریهای سریع و پرتکرار را با تأخیر و هزینهای بسیار کمتر به دوش بکشند.
دیدگاهها (0)
هنوز دیدگاهی ثبت نشده است.