Раньше ты на какой версии играл майнкрафта с модами? Новые версии жрут много ресурсов и думаю дело тут не в оперативной памяти, хотя у тебя её ну маловато для модов, а в процессоре. Скинь свой процессор. И попробуй ещё что. Скачай Аиду 64, запусти, зайди в датчики(будет показываться температура CPU), потом запусти майнкрафт поиграй минуты 2-3, включи в диспетчере задач быстродействие, где будет показывать текущую загрузку на процессор. Если у тебя проц загружен под 100 при игре, то тут уже не в программах дело, и не в джаве, а в самом железе. Поверь, железо может неожиданно сдохнуть, и деградацию процессора никто не отменял. Из-за открытого мира майнкрафта, у тебя просто может не хватать процессора на обработку всего в игре, вот и фризы. Видеокарту тоже скинь, желательно