Для того, чтобы улучшить эффективность индексации контента форума, закрыть дубли, служебные страницы, страницы с сессиями важно использовать правильный файл robots.txt.
Кроме того, для уменьшения вреда от спам-регистраций важно закрыть от индексации профили пользователей и список участников форума, если вы не хотите запрещать гостям их просмативать.

robots.txt для форума без ЧПУ (подойдет и для форума с ЧПУ, но потребуются дополнения, о которых можно спросить в разделе о SEO оптимизации IPB)
Создайте в корне вашего домена (форум может быть как в корне, так и в папке) файл robots.txt с содержанием:
User-agent: *
Disallow: /*lofiversion
Disallow: /*setlanguage
Disallow: /*?s=
Disallow: /*ptopic
Disallow: /*act=SF&s=&f
Disallow: /*s0
Disallow: /*pid=
Disallow: /*?start=
Disallow: /*Print
Disallow: /*print
Disallow: /*CP&CODE
Disallow: /*js
Disallow: /*style_images
Disallow: /*java
Disallow: /*cache
Disallow: /*?showuser
Disallow: /*showuser
Disallow: /*?Showuser
Disallow: /*?act=act=attach
Disallow: /*?act=act=Attach
Disallow: /*aboutme&mid
Disallow: /*?act=calendar
Disallow: /*?act=Calendar
Disallow: /*?act=login
Disallow: /*?act=Login
Disallow: /*?act=post
Disallow: /*?act=reg
Disallow: /*?act=Reg
Disallow: /*?act=online
Disallow: /*?act=Online
Disallow: /*?act=members
Disallow: /*?act=Members
Disallow: /*?act=help
Disallow: /*?act=Help
Disallow: /*?act=search
Disallow: /*?act=Search
Disallow: /*?act=forward
Disallow: /*?act=Forward
Disallow: /*?act=mail
Disallow: /*?act=Mail
Disallow: /*?act=report
Disallow: /*?act=chat
Disallow: /*?act=msg
Disallow: /*?act=usercp
Disallow: /*?act=Usercp
Disallow: /*?act=profile
Disallow: /*?act=track
Disallow: /*?act=stats
Disallow: /*?act=Stats
Disallow: /*?act=attach
Disallow: /*?act=legends
Disallow: /*?act=mmod
Disallow: /*?act=warn
Disallow: /*?act=task
Disallow: /*?act=findpost
Disallow: /*?act=paysubs
Disallow: /*view=getnewpost$
Disallow: /*view=getlastpost$
Disallow: /*view=old$
Disallow: /*view=new$
Disallow: /*view=getfirst$
Disallow: /*view=getprevious$
Disallow: /*view=getnext$
Disallow: /*view=getlast$
Disallow: /*mode=linear
Disallow: /*mode=threaded
Disallow: /*mode=linearplus
Disallow: /*&p=
Disallow: /*?p=
Disallow: /*&gopid=
Disallow: /*?gopid=
Disallow: /*&hl=
Disallow: /*?hl=
Disallow: /*&cal_id
Host: сайт.ru

Вместо сайт.ru пропишите url основного зеркала вашего домена.

Все ненужные адреса запрещаются по маске, поэтому дополнительно дописывать вместо звездочки путь не нужно. Этот robots.txt действительно подойдет всем как основа. Если на форуме работают дополнительные модули и компоненты со своими url, список запретов robots.txt понадобится просто дополнить.

для ЧПУ. Нужны будут только небольшие добавки.

Disallow: /*User
Disallow: /*user

И можно разом отсечь все дубли без ЧПУ

Disallow: /*index.php

User-agent: *
Disallow: /*?act=module&module=gallery
Disallow: /*?autocom=tags
Disallow: /forum/index.php
Disallow: /forum/index.html
Disallow: /clipart/index.html
Disallow: /*03&id
Disallow: /*lofiversion
Disallow: /*ipbskins.ru
Disallow: /*?s=
Disallow: /*?automodu...
Disallow: /*?act=dscr...
Disallow: /http
Disallow: /banners
Disallow: /*ptopic
Disallow: /*act=SF&s=&f
Disallow: /*main.html
Disallow: /*s0.html
Disallow: /*st=
Disallow: /*pid=
Disallow: /*?start=
Disallow: /*Print
Disallow: /*print
Disallow: /forum/user
Disallow: /forum/User
Disallow: /*UserCP&CODE
Disallow: /forum/?
Disallow: /*js
Disallow: /*tags/.html
Disallow: /*style_images
Disallow: /*java
Disallow: /forum/cache
Disallow: /*?showuser
Disallow: /*showuser
Disallow: /*?act=dscript
Disallow: /*?Showuser
Disallow: /*?act=act=attach
Disallow: /*?act=act=Attach
Disallow: /*aboutme&mid
Disallow: /*?act=calendar
Disallow: /*?act=Calendar
Disallow: /*?act=login
Disallow: /*?act=Login
Disallow: /*?act=post
Disallow: /*?act=reg
Disallow: /*?act=Reg
Disallow: /*?act=online
Disallow: /*?act=Online
Disallow: /*?act=members
Disallow: /*?act=Members
Disallow: /*?act=help
Disallow: /*?act=Help
Disallow: /*?act=search
Disallow: /*?act=Search
Disallow: /*?act=forward
Disallow: /*?act=Forward
Disallow: /*?act=mail
Disallow: /*?act=Mail
Disallow: /*?act=boardrules
Disallow: /*?act=report
Disallow: /*?act=chat
Disallow: /*?act=msg
Disallow: /*?act=usercp
Disallow: /*?act=Usercp
Disallow: /*?act=profile
Disallow: /*?act=track
Disallow: /*?act=stats
Disallow: /*?act=Stats
Disallow: /*?act=attach
Disallow: /*?act=legends
Disallow: /*?act=mmod
Disallow: /*?act=warn
Disallow: /*?act=task
Disallow: /*?act=findpost
Disallow: /*?act=paysubs
Disallow: /*?&setskin
Disallow: /*view=getnewpost$
Disallow: /*view=getlastpost$
Disallow: /*view=old$
Disallow: /*view=new$
Disallow: /*view=getfirst$
Disallow: /*view=getprevious$
Disallow: /*view=getnext$
Disallow: /*view=getlast$
Disallow: /*mode=linear
Disallow: /*mode=threaded
Disallow: /*mode=linearplus
Disallow: /*&p=
Disallow: /*?p=
Disallow: /*&gopid=
Disallow: /*?gopid=
Disallow: /*&hl=
Disallow: /*?hl=
Disallow: /*&showtopic
Disallow: /*?showtopic
Disallow: /*&show=nextoldest
Disallow: /*&show=nextnewest
Disallow: /*&show=lastcomment
Disallow: /*&show=newcomment
Disallow: /*&show=comment
Disallow: /*slideshow
Disallow: /*&req=search
Disallow: /*automodule=gallery
Disallow: /*findlink
Disallow: /*reportimage
Disallow: /*postcomment
Disallow: /*req=syndicate
Disallow: /javascript
Disallow: /lofiversion
Host: ipbskins.ru
User-agent: Mediapartners-Google*
Disallow: