eingather.py

   1 #!/usr/bin/env python
   2
   3 # Any copyright is dedicated to the Public Domain.
   4 # https://creativecommons.org/publicdomain/zero/1.0/
   5
   6 # Written by Francois Fleuret <francois@fleuret.org>
   7
   8 import re, torch
   9
  10 #####################
  11
  12
  13 def eingather(op, src, *indexes):
  14     s_src, s_dst = re.search("^([^ ]*) *-> *(.*)", op).groups()
  15     s_indexes = re.findall("\(([^)]*)\)", s_src)
  16     s_src = re.sub("\([^)]*\)", "_", s_src)
  17
  18     all_sizes = tuple(d for s in (src,) + indexes for d in s.size())
  19     s_all = "".join([s_src] + s_indexes)
  20     shape = tuple(all_sizes[s_all.index(v)] for v in s_dst)
  21
  22     def do(x, s_x):
  23         idx = []
  24         n_index = 0
  25
  26         for i in range(x.dim()):
  27             v = s_x[i]
  28             if v == "_":
  29                 idx.append(do(indexes[n_index], s_indexes[n_index]))
  30                 n_index += 1
  31             else:
  32                 j = s_dst.index(v)
  33                 a = (
  34                     torch.arange(x.size(i))
  35                     .reshape((1,) * j + (-1,) + (1,) * (len(s_dst) - j - 1))
  36                     .expand(shape)
  37                 )
  38                 idx.append(a)
  39
  40         return x[idx]
  41
  42     return do(src, s_src)
  43
  44
  45 #######################
  46
  47 src = torch.rand(3, 5, 7, 11)
  48 index1 = torch.randint(src.size(2), (src.size(3), src.size(1), src.size(3)))
  49 index2 = torch.randint(src.size(3), (src.size(1),))
  50
  51 # result[a, c, e] = src[c, a, index1[e, a, e], index2[a]]
  52
  53 result = eingather("ca(eae)(a) -> ace", src, index1, index2)
  54
  55 # Check
  56
  57 error = 0
  58
  59 for a in range(result.size(0)):
  60     for c in range(result.size(1)):
  61         for e in range(result.size(2)):
  62             error += (result[a, c, e] - src[c, a, index1[e, a, e], index2[a]]).abs()
  63
  64 print(error.item())