یک دبیان با netinstall نصب کنید. بعد روی آن دستی xfce نصب کنید. میتونید برای سبکتر شدن پس از نصب xfce بستههای اضافی را حذف کنید. (xfburn, parole, exfalso, quodlibet و برخی دیگه)
در صورتی که سرعت مناسب نداشت از مدیر پنجرهٔ i3 به جای میزکار xfce استفاده کنید.
اگر باز هم حافظه کم آوردید میتونید با نصب بستههای مربوط به xorg فقط وقتی نیاز به برنامهٔ گرافیکی دارید آنها را با startx اجرا کنید.
اینجا را ببینید.
https://askubuntu.com/questions/518454/what-does-startx-command-do
من روی رزبری پای با همین میزان حافظه مشکلی نداشتم و در حد خودش خوبه.
اینجا هم نوشتم.
https://forum.ubuntu-ir.org/index.php?topic=157997.msg1247630#msg1247630
با ۱ گیگ
پاپی لینوکس
آرچ با مدیریت پنجره بدون چیزهای اضافی.
متاسفانه پاپی قابل نصب نیست
از گزینهٔ full install استفاده کنید.