Дак у тебя 3.7? Тогда админка -> в левом фрейме разворачиваешь "Основные настройки", там находишь "Управление отделением людей от роботов" -> далее выбираешь reCaptcha, сохраняешь, регистрируешься на http://recaptcha.net/api/getkey?app=vBulletin и вводишь полученные коды в блок на той же странице в админке.
На самом деле, скорее-всего на новом хостинге не стоит библиотека GD, уточни у хостера её наличие и если нет, то попроси поставить. Проблемы скорее-всего возникнут с загрузкой аватаров, миниатюрами вложений и т.д.