WordPressのフォーラムが使っているのは「bbPress」という掲示板ソフトだそうです。ライセンスはGPLで、PHP+MySQLで動作するようです。