کیفیت فبلم ربط چندانی به سیستم عامل نداره.
بعضی کدکها مثل mpeg2 به دلیل اینکه رایگان نیستند، در لینوکس با کدکهای رایگان جایگزین شدهاند که بعضا دارای همون کیفیت نیستد. شما میتونید برای رفع این مشکل از w32codecs یا امثال اون استفاده کنید.
بعضی نرمافزارها هم مثل mplayer یا kmplayer خود بسیاری از کدکهای مورد نیاز رو دارند.
در مورد فایل شما هم اگه DVD استاندارد باشه، چون از فشردگیهای غیر معمول استفاده نمیکنه، نباید افت کیفیتی وجود داشته باشه.
پیشنهاد میکنم DVD مورد نظر رو با mplayer تحت ویندوز و لینوکس اجرا کنید و اون موقع مقایسه کنید.