انجمن‌های فارسی اوبونتو

جامعه کاربران => پروژه‌ها => نویسنده: محمدرضا حقیری در 19 مهر 1402، 10:51 ب‌ظ

عنوان: پروژه مارال - نسخه PEFT
ارسال شده توسط: محمدرضا حقیری در 19 مهر 1402، 10:51 ب‌ظ
(https://github.com/prp-e/maralgpt/blob/main/maralgpt-logo-main.png?raw=true)

بالاخره پس از مدت‌ها مفتخرم که پروژه مارال (با پروانه انتشار آپاچی ۲) رو خدمتتون معرفی کنم. نسخه اولیه مارال رو ۱۵ تیر ۱۴۰۲ طی یک رویداد معرفی کردم اما متاسفانه از اون موقع، نتایج خوبی از تست‌ها گرفته نمی‌شد تا این که امروز بالاخره پس از چندین و چند ماه نتیجه مطلوبی از این پروژه گرفته شد.
پروژه مارال‌جی‌پی‌تی که به اختصار مارال هم بهش می‌گیم، یک مدل بزرگ زبانیه که قراره در چند نسخه عرضه بشه و نسخه پیش روی شما مبتنی بر مدل Mistral 7B (از شرکت Mistral AI) ساخته شده. این مدل به شما کمک می‌کنه تا یک سری دستورالعمل به فارسی بهش بدید و در نتیجه بهتون پاسخ میده.

راهنمای اجرا

برای اجرا شما نیاز دارید که حتما یک حساب کاربری گوگل داشته باشید. پس از اون به لینک زیر تشریف ببرید:

https://github.com/prp-e/maralgpt

و روی open in colab کلیک کنید (در حال حاضر فقط یک نوت‌بوک وجود داره، در آینده ممکنه چندین نوت‌بوک باشه). پس از اون، به یک Runtime متصل شید (دقت کنید که رانتایم شما حتما GPU داشته باشه) و پس از اون، فقط سلول‌ها رو ران کنید و در سلول prompt که ورودی هست، سوال/دستورالعملتون رو بپرسید.

نکات مهم

دیتاست Alpaca Persian که جناب سینا رشیدی زحمت ترجمه‌ش رو کشیده، با ماشین (ChatGPT) ترجمه شده. بنابراین ممکنه نتایج یکم عجیب غریب باشند. در آینده، تلاش بر اینه که دیتاست رو به صورت مشارکتی تولید کنیم و بعد بریم سراغ این که روی دیتاست درست‌تری این مدل رو ترین کنیم.
عنوان: پاسخ : پروژه مارال - مدل بزرگ زبانی فارسی
ارسال شده توسط: Dr.Code در 20 مهر 1402، 09:53 ق‌ظ
به نظرم اگه از تحلیل فایل پشتیبانی کنه عالیه.
چه نقات قوتی در برابر سایر چت بات های دیگه داره و برنامتون براش چیه؟


ویرایش:
باز نمیشه:/(پیوست)
عنوان: پاسخ : پروژه مارال - مدل بزرگ زبانی فارسی
ارسال شده توسط: محمدرضا حقیری در 20 مهر 1402، 09:46 ب‌ظ
به نظرم اگه از تحلیل فایل پشتیبانی کنه عالیه.
چه نقات قوتی در برابر سایر چت بات های دیگه داره و برنامتون براش چیه؟


ویرایش:
باز نمیشه:/(پیوست)

پشتیبانی از تحلیل فایل، تصویر و ... چیزی نیست که «مدل» به تنهایی قادر به انجامش باشه و نیازمند ساخت یک اکوسیستم حول اونه. چیزی که در آینده ممکنه بهش برسیم.
در مورد این که این مدل چه تفاوتی با بقیه داره هم این رو بگم که کلا پروژه‌های مارال، تلاشی هستند در جهت دمکراتیزه کردن هوش مصنوعی با هدف زبان فارسی به طور خاص.
و اون مشکل، یک b اضافه در لینک بود که برداشتم. الان باید باز بشه  ;D
عنوان: پاسخ : پروژه مارال - مدل بزرگ زبانی فارسی
ارسال شده توسط: محمدرضا حقیری در 18 آبان 1402، 12:51 ق‌ظ
دوستان یک بروزرسانی کوچکی روی نوت‌بوکی که در مخزن بود انجام دادم و الان بدون مشکل کار می‌کنه (یه مدت مشکل داشت).
و خب یکم سوالاتتون رو درست ازش بپرسید، احتمالا جواب‌های خوبی بهتون بده.

پ.ن: هنوز ممکنه hallucinate کنه.