آخرین ارسالها71
معرفی نرمافزار / استفاده از API مدلهای هوشمصنوعی با Cherry Studio
« آخرین ارسال توسط seyal 13 تیر 1405، 03:17 بظ »خوب اول از همه بگم مشکل از کجا شروع شد
میخواستم به جای اینکه هی برم سراغ وبسایت چتباتهای مختلف و سروکله زدن با پروکسی و لاگین اکانت، با استفاده از یه سایت API aggregator، یه API همهکاره بگیرم و راحت روی سیستم خودم ازش استفاده کنم.
بیخیال که تو پیدا کردن یه API Provider خوب هم کلی کلافم کرد. از بعضی سایتها که نمیخوام اسم ببرم API گرفتم، اما نه از سرعتش راضی بودم نه کیفیتش. با اینکه اسم مدل یکی بود، اما فرق میکرد.
خلاصه بعد از کلی گشتن، API رو از سایت OpenRouter گرفتم.
حالا میپرسی "خب این که معروفه، چرا از اول سراغش نرفتی؟"
چون نمیدونستم روش پرداختش رو با کریپتو هم قبول میکنه.
خوب حالا بگذریم
بعد از گرفتن API، افتادم تو یه مشکل جدید: چطور بدون دردسر ازش استفاده کنم؟
۱- اول رفتم سراغ OpenWebUI که به راحتی با ایمیج داکر نصب میشد
بدک نبود. راحت میتونستی مدلها رو روشن و خاموش کنی، از API Providerهای مختلف استفاده کنی، نیاز به دانش فنی خاصی نداشتی، یه UI تمیز و سریع هم داشت.
ولی یه مشکل داشت: خودکار تشخیص نمیداد که مدل از چه قابلیتهایی پشتیبانی میکنه.
و نمیتونست مستقیم با اندپوینت `/images/generation` ارتباط برقرار کنه.
میشد از قسمت workspace < tools ابزارت رو تعریف کنی که عکس تولید کنه
یه تست هم کردم
اولا که باید کد پایتون با الگوگیری از دستورالعملی که openrouter بهت میده مینوشتی و دردسر داشت
دوم اینکه خیلی هم توکن مصرف میکرد. حالا شاید من کد رو بد نوشته بودم
البته اینا برام خیلی مهم نبود. تو همون وبسایت OpenRouter میتونستم از مدلهای تولید تصویر استفاده کنم.
چیزی که واقعاً کلافهم کرد این بود که قابلیت Branching نداشت. هرچند میتونستی یه چت رو duplicate کنی، اما اون خس رو نمیداد.
۲. برای اینکه به Branching برسم، رفتم سراغ LibreChat.
ایمیج داکرش رو نصب کردم.
تنظیمات اولیش یه کم دردسر داشت: باید فایلهای `.env`، `librechat.yaml` و `docker-compose.override.yml` رو تنظیم میکردی.
آخرشم فقط همین مزیت Branching رو داشت و بس. یه عیب بزرگ دیگه هم داشت: برای ویرایش مدلها و API Providerها باید میرفتی فایل librechat.yaml رو تغییر میدادی و دوباره داکر رو down&up میکردی. واقعا کار رو اعصابی بود.
۳. رفتم سراغ LobeHub.
چیزی که بیشتر از همه اذیتم کرد این بود که خیلی سنگین بود برای سیستم و لگ میزد. دیگه از بس سنگین بود، درست تستش نکردم.
۴. و اما بعد از کلی جستجو، رسیدم به Cherry Studio
اینم لینک گیتهابش:
خیلی راحت میتونید دانلود و نصب کنید.
برخلاف LobeHub، این یکی خیلی روون و سبکه. البته فعلاً فقط برای دسکتاپ هست (لینوکس، مک، ویندوز) ولی طبق ادعای سازنده، دارن روی نسخه موبایلی هم کار میکنن.
بهترین تجربه استفاده از API OpenRouter رو با این اپ داشتم.
خودش به راحتی مدلها رو لیست میکنه.
API Providerهای مختلف رو به خوبی شناسایی میکنه.
حتی برای OpenRouter یه تب جداگانه داره که فقط کافیه API Key رو وارد کنید.
به راحتی میتونید مدلها رو fetch کنید و فقط از مدلهایی که دوست دارید استفاده کنید.
حتی میتونید تم برنامه رو مطابق سلیقتون عوض کنید. یه سایت مخصوص تم هم داره.
از قابلیت Branching هم پشتیبانی میکنه.
وقتی از مدلهایی که قابلیت websearch دارند مثل Sonar استفاده میکنید، خیلی تمیز و مرتب، مثل اپلیکیشن ChatGPT، لینکها رو نشون میده و میگه از چه منابعی استفاده کرده و با hover کردن ماوس preview رو هم بهتون نشون میده.
قابلیتهای مدلها رو هم به خوبی تشخیص میده و به شکل گرافیکی نمایش میده.
خلاصه که اگه میخواید از API که دارید، یه تجربه کاربری روون و لذتبخش داشته باشید، حتماً Cherry Studio رو امتحان کنید.
میخواستم به جای اینکه هی برم سراغ وبسایت چتباتهای مختلف و سروکله زدن با پروکسی و لاگین اکانت، با استفاده از یه سایت API aggregator، یه API همهکاره بگیرم و راحت روی سیستم خودم ازش استفاده کنم.
بیخیال که تو پیدا کردن یه API Provider خوب هم کلی کلافم کرد. از بعضی سایتها که نمیخوام اسم ببرم API گرفتم، اما نه از سرعتش راضی بودم نه کیفیتش. با اینکه اسم مدل یکی بود، اما فرق میکرد.
خلاصه بعد از کلی گشتن، API رو از سایت OpenRouter گرفتم.
حالا میپرسی "خب این که معروفه، چرا از اول سراغش نرفتی؟"
چون نمیدونستم روش پرداختش رو با کریپتو هم قبول میکنه.
خوب حالا بگذریم
بعد از گرفتن API، افتادم تو یه مشکل جدید: چطور بدون دردسر ازش استفاده کنم؟
۱- اول رفتم سراغ OpenWebUI که به راحتی با ایمیج داکر نصب میشد
بدک نبود. راحت میتونستی مدلها رو روشن و خاموش کنی، از API Providerهای مختلف استفاده کنی، نیاز به دانش فنی خاصی نداشتی، یه UI تمیز و سریع هم داشت.
ولی یه مشکل داشت: خودکار تشخیص نمیداد که مدل از چه قابلیتهایی پشتیبانی میکنه.
و نمیتونست مستقیم با اندپوینت `/images/generation` ارتباط برقرار کنه.
میشد از قسمت workspace < tools ابزارت رو تعریف کنی که عکس تولید کنه
یه تست هم کردم
اولا که باید کد پایتون با الگوگیری از دستورالعملی که openrouter بهت میده مینوشتی و دردسر داشت
دوم اینکه خیلی هم توکن مصرف میکرد. حالا شاید من کد رو بد نوشته بودم
البته اینا برام خیلی مهم نبود. تو همون وبسایت OpenRouter میتونستم از مدلهای تولید تصویر استفاده کنم.
چیزی که واقعاً کلافهم کرد این بود که قابلیت Branching نداشت. هرچند میتونستی یه چت رو duplicate کنی، اما اون خس رو نمیداد.
۲. برای اینکه به Branching برسم، رفتم سراغ LibreChat.
ایمیج داکرش رو نصب کردم.
تنظیمات اولیش یه کم دردسر داشت: باید فایلهای `.env`، `librechat.yaml` و `docker-compose.override.yml` رو تنظیم میکردی.
آخرشم فقط همین مزیت Branching رو داشت و بس. یه عیب بزرگ دیگه هم داشت: برای ویرایش مدلها و API Providerها باید میرفتی فایل librechat.yaml رو تغییر میدادی و دوباره داکر رو down&up میکردی. واقعا کار رو اعصابی بود.
۳. رفتم سراغ LobeHub.
چیزی که بیشتر از همه اذیتم کرد این بود که خیلی سنگین بود برای سیستم و لگ میزد. دیگه از بس سنگین بود، درست تستش نکردم.
۴. و اما بعد از کلی جستجو، رسیدم به Cherry Studio
اینم لینک گیتهابش:
کد: [انتخاب]
https://github.com/CherryHQ/cherry-studioتو قسمت Release هم نسخههای `.deb`، AppImage و بقیه رو گذاشته.خیلی راحت میتونید دانلود و نصب کنید.
برخلاف LobeHub، این یکی خیلی روون و سبکه. البته فعلاً فقط برای دسکتاپ هست (لینوکس، مک، ویندوز) ولی طبق ادعای سازنده، دارن روی نسخه موبایلی هم کار میکنن.
بهترین تجربه استفاده از API OpenRouter رو با این اپ داشتم.
خودش به راحتی مدلها رو لیست میکنه.
API Providerهای مختلف رو به خوبی شناسایی میکنه.
حتی برای OpenRouter یه تب جداگانه داره که فقط کافیه API Key رو وارد کنید.
به راحتی میتونید مدلها رو fetch کنید و فقط از مدلهایی که دوست دارید استفاده کنید.
حتی میتونید تم برنامه رو مطابق سلیقتون عوض کنید. یه سایت مخصوص تم هم داره.
از قابلیت Branching هم پشتیبانی میکنه.
وقتی از مدلهایی که قابلیت websearch دارند مثل Sonar استفاده میکنید، خیلی تمیز و مرتب، مثل اپلیکیشن ChatGPT، لینکها رو نشون میده و میگه از چه منابعی استفاده کرده و با hover کردن ماوس preview رو هم بهتون نشون میده.
قابلیتهای مدلها رو هم به خوبی تشخیص میده و به شکل گرافیکی نمایش میده.
خلاصه که اگه میخواید از API که دارید، یه تجربه کاربری روون و لذتبخش داشته باشید، حتماً Cherry Studio رو امتحان کنید.
](https://forum.ubuntu-ir.org/Smileys/default/eusa_wall.gif "Brick Wall")
