سلام،
توصیه میشه JDK رو از مخازن خود اوبونتو نصب کنین:
$ sudo apt-get install sun-java6-jdk
با این روش همهی کارهای لازم، خودکار انجام میشن.
اگر اصرار دارین به روش خودتون عمل کنین باید متغیر محیطی PATH رو عوض کنین:
$ export PATH=$PATH:/path/to/your/jdk/bin
اگر میخواین این تنظیم همیشه بمونه میتونین به آخر etc/profile/ اضافش کنین.