انجمن‌های فارسی اوبونتو

لطفاً به انجمن‌ها وارد شده و یا جهت ورود ثبت‌نام نمائید

لطفاً جهت ورود نام کاربری و رمز عبورتان را وارد نمائید

نویسنده موضوع: پروژه مارال - نسخه PEFT  (دفعات بازدید: 3149 بار)

0 کاربر و 1 مهمان درحال مشاهده موضوع.

آفلاین محمدرضا حقیری

  • High Sr. Member
  • *
  • ارسال: 528
    • ذهن زیبا
پروژه مارال - نسخه PEFT
« : 19 مهر 1402، 10:51 ب‌ظ »


بالاخره پس از مدت‌ها مفتخرم که پروژه مارال (با پروانه انتشار آپاچی ۲) رو خدمتتون معرفی کنم. نسخه اولیه مارال رو ۱۵ تیر ۱۴۰۲ طی یک رویداد معرفی کردم اما متاسفانه از اون موقع، نتایج خوبی از تست‌ها گرفته نمی‌شد تا این که امروز بالاخره پس از چندین و چند ماه نتیجه مطلوبی از این پروژه گرفته شد.
پروژه مارال‌جی‌پی‌تی که به اختصار مارال هم بهش می‌گیم، یک مدل بزرگ زبانیه که قراره در چند نسخه عرضه بشه و نسخه پیش روی شما مبتنی بر مدل Mistral 7B (از شرکت Mistral AI) ساخته شده. این مدل به شما کمک می‌کنه تا یک سری دستورالعمل به فارسی بهش بدید و در نتیجه بهتون پاسخ میده.

راهنمای اجرا

برای اجرا شما نیاز دارید که حتما یک حساب کاربری گوگل داشته باشید. پس از اون به لینک زیر تشریف ببرید:

https://github.com/prp-e/maralgpt

و روی open in colab کلیک کنید (در حال حاضر فقط یک نوت‌بوک وجود داره، در آینده ممکنه چندین نوت‌بوک باشه). پس از اون، به یک Runtime متصل شید (دقت کنید که رانتایم شما حتما GPU داشته باشه) و پس از اون، فقط سلول‌ها رو ران کنید و در سلول prompt که ورودی هست، سوال/دستورالعملتون رو بپرسید.

نکات مهم

دیتاست Alpaca Persian که جناب سینا رشیدی زحمت ترجمه‌ش رو کشیده، با ماشین (ChatGPT) ترجمه شده. بنابراین ممکنه نتایج یکم عجیب غریب باشند. در آینده، تلاش بر اینه که دیتاست رو به صورت مشارکتی تولید کنیم و بعد بریم سراغ این که روی دیتاست درست‌تری این مدل رو ترین کنیم.
« آخرین ویرایش: 12 دی 1402، 12:18 ب‌ظ توسط محمدرضا حقیری »

آفلاین Dr.Code

  • High Hero Member
  • *
  • ارسال: 1446
  • جنسیت : پسر
  • Dr.Code
    • My website
پاسخ : پروژه مارال - مدل بزرگ زبانی فارسی
« پاسخ #1 : 20 مهر 1402، 09:53 ق‌ظ »
به نظرم اگه از تحلیل فایل پشتیبانی کنه عالیه.
چه نقات قوتی در برابر سایر چت بات های دیگه داره و برنامتون براش چیه؟


ویرایش:
باز نمیشه:/(پیوست)

آفلاین محمدرضا حقیری

  • High Sr. Member
  • *
  • ارسال: 528
    • ذهن زیبا
پاسخ : پروژه مارال - مدل بزرگ زبانی فارسی
« پاسخ #2 : 20 مهر 1402، 09:46 ب‌ظ »
به نظرم اگه از تحلیل فایل پشتیبانی کنه عالیه.
چه نقات قوتی در برابر سایر چت بات های دیگه داره و برنامتون براش چیه؟


ویرایش:
باز نمیشه:/(پیوست)

پشتیبانی از تحلیل فایل، تصویر و ... چیزی نیست که «مدل» به تنهایی قادر به انجامش باشه و نیازمند ساخت یک اکوسیستم حول اونه. چیزی که در آینده ممکنه بهش برسیم.
در مورد این که این مدل چه تفاوتی با بقیه داره هم این رو بگم که کلا پروژه‌های مارال، تلاشی هستند در جهت دمکراتیزه کردن هوش مصنوعی با هدف زبان فارسی به طور خاص.
و اون مشکل، یک b اضافه در لینک بود که برداشتم. الان باید باز بشه  ;D

آفلاین محمدرضا حقیری

  • High Sr. Member
  • *
  • ارسال: 528
    • ذهن زیبا
پاسخ : پروژه مارال - مدل بزرگ زبانی فارسی
« پاسخ #3 : 18 آبان 1402، 12:51 ق‌ظ »
دوستان یک بروزرسانی کوچکی روی نوت‌بوکی که در مخزن بود انجام دادم و الان بدون مشکل کار می‌کنه (یه مدت مشکل داشت).
و خب یکم سوالاتتون رو درست ازش بپرسید، احتمالا جواب‌های خوبی بهتون بده.

پ.ن: هنوز ممکنه hallucinate کنه.