step11. 가변 길이 인수(순전파 편)

📢 본 포스팅은 밑바닥부터 시작하는 딥러닝3을 기반으로 작성하였습니다. 배운 내용을 기록하고, 개인적인 공부를 위해 작성하는 포스팅입니다. 자세한 내용은 교재 구매를 강력 추천드립니다.

 

 

지금까지는 함수에 입출력 변수가 하나씩인 경우만 고려했습니다. 그러나 함수에 따라 여러 개의 변수를 입력받기도 합니다. 혹은 출력이 여러 개인 함수도 있습니다. 따라서 DeZero가 가변 길이 입출력을 처리할 수 있도록 확장할 겁니다. 가변 길이는 인수 또는 반환값의 수가 달라질 수 있다는 뜻입니다.

 

가변 길이 입출력을 표현하려면 변수들을 리스트 또는 튜플에 넣어 처리하면 편합니다. Function 클래스는 지금과 같이 하나의 인수만 받고 하나의 값을 반환하지만, 인수와 반환값의 타입만 리스트로 바꾸는 것입니다.

class Function:
    def __call__(self, inputs):
        xs = [x.data for x in inputs]
        ys = self.forward(xs)
        outputs = [Variable(as_array(y)) for y in ys]

        for output in outputs:
            output.set_creator(self)
        self.inputs = inputs
        self.outputs = outputs
        return outputs

    def forward(self, xs):
        raise NotImplementedError()
    
    def backward(self, gys):
        raise NotImplementedError()

 

다음으로 새로운 Function 클래스를 활용하여 구체적인 함수를 구현하겠습니다. 첫 번째로 덧셈을 해주는 Add 클래스입니다. 인수와 반환값이 리스트 또는 튜플임을 고려하여 forward 메서드를 구현합니다.

class Add(Function):
    def forward(self, xs):
        x0, x1 = xs
        y = x0 + x1
        return (y, )  # 튜플 형태로 반환

 

다음과 같이 Add 클래스를 사용할 수 있습니다. 다만, 입력 변수를 리스트에 미리 담아야 하는 등의 불편함이 존재하기 때문에 개선이 필요합니다.

xs = [Variable(np.array(2)), Variable(np.array(3))]  # 리스트로 준비
f = Add()
ys = f(xs)  # ys 튜플
y = ys[0]
print(y.data)  # 5