تجربه اجرای DeepSeek به صورت محلی روی لپ تاپ: آیا ارزش امتحان کردن دارد؟ - مجله تخصصی کامپیوتر

من تصمیم گرفتم که DeepSeek-R1 را روی لپ تاپم اجرا کنم و ببینم که آیا می تواند جایگزین مناسبی برای مدل های ابری باشد یا خیر. در ادامه، تجربه من از نصب، اجرا و استفاده از این چت بات محلی را می خوانی.

چرا باید یک چت بات هوش مصنوعی را به صورت محلی اجرا کنیم؟

بیشتر کاربران هنگام استفاده از چت بات های هوش مصنوعی مانند ChatGPT، Gemini و Claude متوجه نمی شوند که تمامی پردازش ها روی سرورهای ابری انجام می گردد. کامپیوتر کاربر تنها رابطی برای ارسال درخواست ها و دریافت پاسخ ها است و هیچ پردازش سنگینی روی خود دستگاه انجام نمی گردد. این روش مزایای زیادی دارد، اما دو مشکل اساسی هم به همراه دارد:

1. احتیاج دائمی به اینترنت - برای استفاده از این چت بات ها، همواره باید آنلاین باشی. اگر در پرواز، سفر یا جایی بدون اینترنت باشی، این مدل ها بی فایده خواهند بود.
2. حریم خصوصی و کنترل اطلاعات - پردازش ابری یعنی داده هایت روی سرورهای شرکت های دیگر ذخیره و پردازش می گردد. اگر این سرورها دچار نقص امنیتی شوند، اطلاعات شخصی ات در معرض خطر قرار می گیرد.

مدل های محلی این مسائل را حل می نمایند. DeepSeek-R1 یکی از این مدل هاست که می توان آن را روی لپ تاپ نصب و به صورت آفلاین اجرا کرد. این مدل تنها 7 میلیارد پارامتر دارد، در حالی که نسخه اصلی DeepSeek که روی سرورهای ابری اجرا می گردد، دارای 671 میلیارد پارامتر است. این یعنی نسخه محلی سبک تر، کم حجم تر و مناسب تر برای سخت افزارهای معمولی است.

چطور DeepSeek-R1 را روی لپ تاپم نصب کردم؟

اجرای یک مدل هوش مصنوعی محلی ممکن است پیچیده به نظر برسد، اما نصب DeepSeek-R1 بسیار ساده تر از آن چیزی بود که انتظار داشتم. برای این کار، مراحل زیر را انجام دادم:

1. نصب Ollama - برای اجرای مدل، ابتدا باید نرم افزار Ollama را دانلود و روی سیستم نصب می کردم. این ابزار به کاربران امکان می دهد مدل های هوش مصنوعی محلی را اجرا نمایند.
2. باز کردن ترمینال و اجرای دستور - پس از نصب Ollama، ترمینال را باز کردم و دستور زیر را وارد کردم:

   ollama run deepseek-r1:7b

3. این دستور مدل 7 میلیارد پارامتری DeepSeek-R1 را دانلود و روی سیستمم اجرا کرد. پس از نصب، توانستم در همان محیط ترمینال سؤالاتم را وارد کنم و پاسخ بگیرم.

4. آزمایش نسخه های سبک تر - اگر لپ تاپت سخت افزار قوی ندارد، می توانی به جای 7b، عدد 1.5b را وارد کنی تا نسخه سبک تری اجرا گردد.

اگر دوست داری این مدل را در یک رابط کاربری بهتر و زیباتر اجرا کنی، می توانی از برنامه های جانبی مثل Chatbox استفاده کنی که تجربه کاربری مجذوب کننده تری ارائه می دهند.

عملکرد DeepSeek-R1 در کاربردهای مختلف

پس از نصب، تصمیم گرفتم مدل را در چندین سناریو مختلف آزمایش کنم تا ببینم چقدر خوب کار می نماید.

1. حل مسائل ریاضی

مدل را با یک مسئله انتگرالی آزمایش کردم. برخلاف انتظاراتم، عملکرد خوبی داشت و جواب را دقیق محاسبه کرد. معمولاً مدل های کوچک تر در حل مسائل ریاضی دچار مشکل می شوند، اما DeepSeek-R1 توانست پاسخ درستی ارائه دهد.

2. اشکال زدایی و تکمیل کدهای برنامه نویسی

یکی از اصلی ترین دلایلی که این مدل برایم مجذوب کننده شد، توانایی اش در برطرف اشکالات کدنویسی (Debugging) بود. من اغلب هنگام کار روی پروژه های هوش مصنوعی احتیاج دارم که سریع خطاهای کدم را پیدا کنم، به خصوص زمانی که به اینترنت دسترسی ندارم.

برای تست، قطعه کدی را که عمداً در آن یک اشتباه کوچک قرار داده بودم، به مدل دادم:

X = np.array([1, 2, 3, 4, 5]).reshape(-1, 1) y = np.array([2, 4, 6, 8, 10]) model = LinearRegression() model.fit(X, y) new-X = np.array([6, 7, 8]) prediction = model.predict(new-X)

مدل بلافاصله مشکل را پیدا کرد و اصلاحش کرد. با این حال، اجرای این مدل روی مک بوک ایر M1 با 8 گیگابایت حافظه یونیفای باعث شد که سیستمم به شدت کند گردد. اگر لپ تاپت 16 گیگابایت رم یا یک کارت گرافیک میان رده داشته باشد، احتمالاً این مشکل را نخواهی داشت.

3. تست استدلال منطقی با مسئله مونتی هال

مسئله مونتی هال (Monty Hall Problem) یک معمای مشهور منطقی است که بسیاری از افراد در حل آن اشتباه می نمایند. از DeepSeek-R1 خواستم این معما را حل نماید و نکته جالب این بود که نه تنها پاسخ صحیح را ارائه داد، بلکه با ارائه یک توضیح گام به گام، نحوه استدلال خود را نشان داد.

نقاط ضعف DeepSeek-R1

1. اطلاعات قدیمی - این مدل به اینترنت متصل نیست، بنابراین اطلاعاتش به روز نمی گردد. مثلاً وقتی از آن درباره آیفون اولیه پرسیدم، پاسخی کاملاً اشتباه و حتی خنده دار ارائه کرد!

2. سرعت پردازش پایین تر نسبت به مدل های ابری - پردازش های سنگین باعث کند شدن سیستم می گردد، به ویژه اگر رم کمی داشته باشی.

آیا DeepSeek-R1 ارزش استفاده دارد؟

اگر به یک چت بات آفلاین و امن احتیاج داری که کنترل کاملی روی داده هایت داشته باشی، DeepSeek-R1 گزینه بسیار خوبی است. بااین حال، نمی توان انتظار داشت که جایگزین مدل های ابری فوق پیشرفته گردد.

به نظر من، آینده هوش مصنوعی در مدل های محلی نهفته است. اگر شرکت ها روی این فناوری سرمایه گذاری نمایند، می توانیم چت بات های قدرتمندی را مستقیماً روی گوشی ها و لپ تاپ ها اجرا کنیم، بدون احتیاج به اتصال دائمی به اینترنت.

مسئله مونتی هال (Monty Hall Problem) یک معمای معروف در احتمالات و تصمیم گیری منطقی است که بسیاری از افراد را، حتی ریاضی دانان را، به اشتباه می اندازد. این مسئله از یک مسابقه تلویزیونی الهام گرفته شده که در آن، شرکت نماینده ها باید بین سه درب بسته، یکی را انتخاب نمایند.

توضیح مسئله:

1. سه در روبروی شما قرار گرفته است. پشت یکی از آن ها یک ماشین جایزه قرار گرفته است و پشت دو در دیگر، بز (یا چیزی بی ارزش) پنهان شده است.

2. شما یکی از درها را انتخاب می کنید، اما هنوز باز نمی گردد.

3. مجری برنامه، که می داند پشت هر در چه چیزی قرار گرفته است، یکی از درهایی را که جایزه پشت آن نیست، باز می نماید و یک بز را نشان می دهد.

4. حالا شما دو انتخاب دارید:

• روی انتخاب اولیه تان بمانید.
• یا درِ خود را عوض کنید و درِ به جای مانده را انتخاب کنید.

5. سؤال این است: آیا تعویض انتخاب، شانس شما را برای بردن جایزه افزایش می دهد؟

پاسخ درست:

بله! اگر شما تصمیم بگیرید که در انتخاب اولیه بمانید، شانس برنده شدن شما فقط 1/3 (33.3٪) است. اما اگر تصمیم بگیرید که انتخاب خود را عوض کنید، شانس برنده شدن شما 2/3 (66.6٪) می گردد!

چرا این اتفاق می افتد؟ توضیح ریاضی

در ابتدا، احتمال اینکه جایزه پشت دری باشد که شما انتخاب نموده اید، 1/3 است، و احتمال اینکه جایزه پشت یکی از دو در دیگر باشد، 2/3 است. وقتی مجری یکی از دو در دیگر را که جایزه پشت آن نیست، باز می نماید، این احتمال 2/3 به در به جای مانده منتقل می گردد. به همین علت، تعویض انتخاب باعث افزایش شانس برنده شدن می گردد.

چرا بیشتر افراد اشتباه می نمایند؟

بیشتر افراد به اشتباه فکر می نمایند که بعد از باز شدن یک در، احتمال جایزه بین دو در به جای مانده 50-50 تقسیم می گردد. اما در حقیقت، اطلاعات جدیدی که از باز شدن یک در به دست می آید، باعث تغییر احتمالات می گردد.

آزمایش عملی برای درک بهتر:

اگر هنوز شک داری، می توانی با انجام یک آزمایش ساده روی کاغذ یا با دوستانت این مسئله را امتحان کنی. کافی است 10 یا 20 بار این بازی را انجام بدهی و هر بار ببینی که وقتی انتخابت را تغییر می دهی، چقدر احتمال برنده شدنت بیشتر است.

این مسئله یکی از معروف ترین مثال ها در نظریه احتمالات است و حتی بعضی از دانشمندان و ریاضی دانان نیز در ابتدا آن را باور نمی کردند تا زمانی که آن را آزمایش کردند!

منبع: یک پزشک