pose_cell_hierarchy.cc

   1
   2 ///////////////////////////////////////////////////////////////////////////
   3 // This program is free software: you can redistribute it and/or modify  //
   4 // it under the terms of the version 3 of the GNU General Public License //
   5 // as published by the Free Software Foundation.                         //
   6 //                                                                       //
   7 // This program is distributed in the hope that it will be useful, but   //
   8 // WITHOUT ANY WARRANTY; without even the implied warranty of            //
   9 // MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU      //
  10 // General Public License for more details.                              //
  11 //                                                                       //
  12 // You should have received a copy of the GNU General Public License     //
  13 // along with this program. If not, see <http://www.gnu.org/licenses/>.  //
  14 //                                                                       //
  15 // Written by Francois Fleuret, (C) IDIAP                                //
  16 // Contact <francois.fleuret@idiap.ch> for comments & bug reports        //
  17 ///////////////////////////////////////////////////////////////////////////
  18
  19 #include "pose_cell_hierarchy.h"
  20 #include "gaussian.h"
  21
  22 PoseCellHierarchy::PoseCellHierarchy() {
  23   _belly_cells = 0;
  24 }
  25
  26 PoseCellHierarchy::PoseCellHierarchy(LabelledImagePool *train_pool) {
  27   _nb_levels = global.nb_levels;
  28   _min_head_radius = global.min_head_radius;
  29   _max_head_radius = global.max_head_radius;
  30   _root_cell_nb_xy_per_scale = global.root_cell_nb_xy_per_scale;
  31
  32   LabelledImage *image;
  33   int nb_total_targets = 0;
  34   for(int i = 0; i < train_pool->nb_images(); i++) {
  35     image = train_pool->grab_image(i);
  36     // We are going to symmetrize
  37     nb_total_targets += 2 * image->nb_targets();
  38     train_pool->release_image(i);
  39   }
  40
  41   RelativeBellyPoseCell targets[nb_total_targets];
  42
  43   int u = 0;
  44   for(int i = 0; i < train_pool->nb_images(); i++) {
  45     image = train_pool->grab_image(i);
  46
  47     PoseCellSet cell_set;
  48     add_root_cells(image, &cell_set);
  49
  50     for(int t = 0; t < image->nb_targets(); t++) {
  51       Pose pose = *image->get_target_pose(t);
  52       Pose coarse;
  53
  54       cell_set.get_containing_cell(&pose)->get_centroid(&coarse);
  55
  56       targets[u]._belly_xc.set((pose._belly_xc - coarse._head_xc) / coarse._head_radius);
  57       targets[u]._belly_yc.set((pose._belly_yc - coarse._head_yc) / coarse._head_radius);
  58       u++;
  59
  60       pose.horizontal_flip(image->width());
  61
  62       cell_set.get_containing_cell(&pose)->get_centroid(&coarse);
  63
  64       targets[u]._belly_xc.set((pose._belly_xc - coarse._head_xc) / coarse._head_radius);
  65       targets[u]._belly_yc.set((pose._belly_yc - coarse._head_yc) / coarse._head_radius);
  66       u++;
  67     }
  68
  69     train_pool->release_image(i);
  70   }
  71
  72   scalar_t fattening = 1.1;
  73
  74   Interval belly_rxc, belly_ryc;
  75
  76   belly_rxc.set(&targets[0]._belly_xc);
  77   belly_ryc.set(&targets[0]._belly_yc);
  78
  79   for(int t = 0; t < nb_total_targets; t++) {
  80     belly_rxc.swallow(&targets[t]._belly_xc);
  81     belly_ryc.swallow(&targets[t]._belly_yc);
  82   }
  83
  84   belly_rxc.min *= fattening;
  85   belly_rxc.max *= fattening;
  86   belly_ryc.min *= fattening;
  87   belly_ryc.max *= fattening;
  88
  89   scalar_t belly_rxc_min = belly_resolution * floor(belly_rxc.min / belly_resolution);
  90   int nb_belly_rxc = int(ceil((belly_rxc.max - belly_rxc_min) / belly_resolution));
  91
  92   scalar_t belly_ryc_min = belly_resolution * floor(belly_ryc.min / belly_resolution);
  93   int nb_belly_ryc = int(ceil((belly_ryc.max - belly_ryc_min) / belly_resolution));
  94
  95   (*global.log_stream) << "belly_rxc = " << belly_rxc << endl
  96                        << "belly_rxc_min = " << belly_rxc_min << endl
  97                        << "belly_rxc_min + nb_belly_rxc * belly_resolution = " << belly_rxc_min + nb_belly_rxc * belly_resolution << endl
  98                        << endl
  99                        << "belly_ryc = " << belly_ryc << endl
 100                        << "belly_ryc_min = " << belly_ryc_min << endl
 101                        << "belly_ryc_min + nb_belly_ryc * belly_resolution = " << belly_ryc_min + nb_belly_ryc * belly_resolution << endl;
 102
 103   int used[nb_belly_rxc * nb_belly_rxc];
 104
 105   for(int k = 0; k < nb_belly_rxc * nb_belly_ryc; k++) {
 106     used[k] = 1;
 107   }
 108
 109   // An ugly way to compute the convexe enveloppe
 110
 111   for(scalar_t alpha = 0; alpha < M_PI * 2; alpha += (2 * M_PI) / 100) {
 112     scalar_t vx = cos(alpha), vy = sin(alpha);
 113     scalar_t rho = 0;
 114
 115     for(int t = 0; t < nb_total_targets; t++) {
 116       rho = min(rho, vx * targets[t]._belly_xc.middle() + vy * targets[t]._belly_yc.middle());
 117     }
 118
 119     rho *= fattening;
 120
 121     for(int j = 0; j < nb_belly_ryc; j++) {
 122       for(int i = 0; i < nb_belly_rxc; i++) {
 123         if(
 124            vx * (scalar_t(i + 0) * belly_resolution + belly_rxc_min) +
 125            vy * (scalar_t(j + 0) * belly_resolution + belly_ryc_min) < rho
 126            &&
 127            vx * (scalar_t(i + 1) * belly_resolution + belly_rxc_min) +
 128            vy * (scalar_t(j + 0) * belly_resolution + belly_ryc_min) < rho
 129            &&
 130            vx * (scalar_t(i + 0) * belly_resolution + belly_rxc_min) +
 131            vy * (scalar_t(j + 1) * belly_resolution + belly_ryc_min) < rho
 132            &&
 133            vx * (scalar_t(i + 1) * belly_resolution + belly_rxc_min) +
 134            vy * (scalar_t(j + 1) * belly_resolution + belly_ryc_min) < rho
 135            ) {
 136           used[i + j * nb_belly_rxc] = 0;
 137         }
 138       }
 139     }
 140   }
 141
 142   _nb_belly_cells = 0;
 143   for(int j = 0; j < nb_belly_ryc; j++) {
 144     for(int i = 0; i < nb_belly_rxc; i++) {
 145       if(used[i + nb_belly_rxc * j]) {
 146         _nb_belly_cells++;
 147       }
 148     }
 149   }
 150
 151   _belly_cells = new RelativeBellyPoseCell[_nb_belly_cells];
 152
 153   for(int j = 0; j < nb_belly_ryc; j++) {
 154     for(int i = 0; i < nb_belly_rxc; i++) {
 155       if(used[i + nb_belly_rxc * j]) {
 156         if(sq(scalar_t(i) * belly_resolution + belly_resolution/2 + belly_rxc_min) +
 157            sq(scalar_t(j) * belly_resolution + belly_resolution/2 + belly_ryc_min) <= 1) {
 158           (*global.log_stream) << "*";
 159         } else {
 160           (*global.log_stream) << "X";
 161         }
 162       } else {
 163         (*global.log_stream) << ".";
 164       }
 165     }
 166     (*global.log_stream) << endl;
 167   }
 168
 169   int k = 0;
 170   for(int j = 0; j < nb_belly_ryc; j++) {
 171     for(int i = 0; i < nb_belly_rxc; i++) {
 172
 173       if(used[i + nb_belly_rxc * j]) {
 174
 175         RelativeBellyPoseCell mother;
 176
 177         scalar_t x = scalar_t(i) * belly_resolution + belly_rxc_min;
 178         scalar_t y = scalar_t(j) * belly_resolution + belly_ryc_min;
 179
 180         mother._belly_xc.set(x, x + belly_resolution);
 181         mother._belly_yc.set(y, y + belly_resolution);
 182
 183         _belly_cells[k++] = mother;
 184       }
 185     }
 186   }
 187
 188   (*global.log_stream) << _nb_belly_cells << " belly cells." << endl;
 189 }
 190
 191 PoseCellHierarchy::~PoseCellHierarchy() {
 192   delete[] _belly_cells;
 193 }
 194
 195 int PoseCellHierarchy::nb_levels() {
 196   return _nb_levels;
 197 }
 198
 199 void PoseCellHierarchy::get_containing_cell(Image *image, int level,
 200                                             Pose *pose, PoseCell *result_cell) {
 201   PoseCellSet cell_set;
 202
 203   for(int l = 0; l < level + 1; l++) {
 204     cell_set.erase_content();
 205     if(l == 0) {
 206       add_root_cells(image, &cell_set);
 207     } else {
 208       add_subcells(l, result_cell, &cell_set);
 209     }
 210
 211     *result_cell = *(cell_set.get_containing_cell(pose));
 212   }
 213 }
 214
 215 void PoseCellHierarchy::add_root_cells(Image *image, PoseCellSet *cell_set) {
 216
 217   const int nb_scales = int((log(_max_head_radius) - log(_min_head_radius)) / log(2) *
 218                             global.nb_scales_per_power_of_two);
 219
 220   scalar_t alpha = log(_min_head_radius);
 221   scalar_t beta = log(2) / scalar_t(global.nb_scales_per_power_of_two);
 222
 223   for(int s = 0; s < nb_scales; s++) {
 224     scalar_t cell_xy_size = exp(alpha + scalar_t(s) * beta) / global.root_cell_nb_xy_per_scale;
 225     PoseCell cell;
 226     cell._head_radius.min = exp(alpha + scalar_t(s) * beta);
 227     cell._head_radius.max = exp(alpha + scalar_t(s+1) * beta);
 228     cell._head_tilt.min = -M_PI;
 229     cell._head_tilt.max = M_PI;
 230     for(scalar_t y = 0; y < image->height(); y += cell_xy_size)
 231       for(scalar_t x = 0; x < image->width(); x += cell_xy_size) {
 232         cell._head_xc.min = x;
 233         cell._head_xc.max = x + cell_xy_size;
 234         cell._head_yc.min = y;
 235         cell._head_yc.max = y + cell_xy_size;
 236         cell._belly_xc.min = cell._head_xc.min - pseudo_infty;
 237         cell._belly_xc.max = cell._head_xc.max + pseudo_infty;
 238         cell._belly_yc.min = cell._head_yc.min - pseudo_infty;
 239         cell._belly_yc.max = cell._head_yc.max + pseudo_infty;
 240         cell_set->add_cell(&cell);
 241       }
 242   }
 243 }
 244
 245 void PoseCellHierarchy::add_subcells(int level, PoseCell *root,
 246                                      PoseCellSet *cell_set) {
 247
 248   switch(level) {
 249
 250   case 1:
 251     {
 252       // Here we split the belly-center coordinate cell part
 253       PoseCell cell = *root;
 254       scalar_t r = sqrt(cell._head_radius.min * cell._head_radius.max);
 255       scalar_t x = (cell._head_xc.min + cell._head_xc.max) / 2.0;
 256       scalar_t y = (cell._head_yc.min + cell._head_yc.max) / 2.0;
 257       for(int k = 0; k < _nb_belly_cells; k++) {
 258         cell._belly_xc.min = (_belly_cells[k]._belly_xc.min * r) + x;
 259         cell._belly_xc.max = (_belly_cells[k]._belly_xc.max * r) + x;
 260         cell._belly_yc.min = (_belly_cells[k]._belly_yc.min * r) + y;
 261         cell._belly_yc.max = (_belly_cells[k]._belly_yc.max * r) + y;
 262         cell_set->add_cell(&cell);
 263       }
 264     }
 265     break;
 266
 267   default:
 268     {
 269       cerr << "Inconsistent level in PoseCellHierarchy::add_subcells" << endl;
 270       abort();
 271     }
 272     break;
 273   }
 274 }
 275
 276
 277 int PoseCellHierarchy::nb_incompatible_poses(LabelledImagePool *pool) {
 278   PoseCell target_cell;
 279   PoseCellSet cell_set;
 280   LabelledImage *image;
 281
 282   int nb_errors = 0;
 283
 284   for(int i = 0; i < pool->nb_images(); i++) {
 285     image = pool->grab_image(i);
 286
 287     for(int t = 0; t < image->nb_targets(); t++) {
 288       cell_set.erase_content();
 289
 290       int error_level = -1;
 291
 292       for(int l = 0; error_level < 0 && l < _nb_levels; l++) {
 293         cell_set.erase_content();
 294
 295         if(l == 0) {
 296           add_root_cells(image, &cell_set);
 297         } else {
 298           add_subcells(l, &target_cell, &cell_set);
 299         }
 300
 301         int nb_compliant = 0;
 302
 303         for(int c = 0; c < cell_set.nb_cells(); c++) {
 304           if(cell_set.get_cell(c)->contains(image->get_target_pose(t))) {
 305             target_cell = *(cell_set.get_cell(c));
 306             nb_compliant++;
 307           }
 308         }
 309
 310         if(nb_compliant != 1) {
 311           error_level = l;
 312         }
 313       }
 314
 315       if(error_level >= 0) {
 316         nb_errors++;
 317       }
 318     }
 319
 320     pool->release_image(i);
 321   }
 322
 323   return nb_errors;
 324 }
 325
 326 void PoseCellHierarchy::write(ostream *os) {
 327   write_var(os, &_min_head_radius);
 328   write_var(os, &_max_head_radius);
 329   write_var(os, &_root_cell_nb_xy_per_scale);
 330   write_var(os, &_nb_belly_cells);
 331   for(int k = 0; k < _nb_belly_cells; k++)
 332     write_var(os, &_belly_cells[k]);
 333 }
 334
 335 void PoseCellHierarchy::read(istream *is) {
 336   delete[] _belly_cells;
 337   read_var(is, &_min_head_radius);
 338   read_var(is, &_max_head_radius);
 339   read_var(is, &_root_cell_nb_xy_per_scale);
 340   read_var(is, &_nb_belly_cells);
 341   delete[] _belly_cells;
 342   _belly_cells = new RelativeBellyPoseCell[_nb_belly_cells];
 343   for(int k = 0; k < _nb_belly_cells; k++) {
 344     read_var(is, &_belly_cells[k]);
 345   }
 346 }