Начните установку форума с инсталляции базы данных. Предварительно, следует ознакомится со свойствами разных типов баз и выбрать наиболее подходящую под ваши задачи. Скорей всего, это будет MySQL, так как именно эта база выбирается большинством разработчиков форумов.
Запустите инсталлятор форума, который создаст всю необходимую структуру каталогов и скриптов и создаёт связь с выбранной БД. После запуска форума, у вас будет ресурс содержащий пару разделов с темами приветствия и дефолтными настройками.
Первый этап должен обеспечить безопасность работы форума и комфорт посетителей, защитит форум от вероятного бана в почтовых сервисах и ботов рассылающих спам, что вероятно из-за массовой рассылки писем с рекламным содержанием движком форума.
Второй этап определяет собственно структуру и навигацию пользователей по тематическим разделам.
Третий этап - доработка шаблонов, цель которой в повышении релевантности страниц выбранным поисковым фразам.
Создание групп пользователей будет полезно, если ваш форум станет действительно большим и появится административная необходимость связанная с управлением большим количеством пользователей.
Для реализации настроек, вам будет желательным разбираться в вопросах индексации поисковиками и механизмах ранжирования, а также понимать принципы работы спам фильтров крупных почтовых сервисов.