Search

KR-20260061485-A - Event-based neural network processor and event-based neural network processing method

KR20260061485AKR 20260061485 AKR20260061485 AKR 20260061485AKR-20260061485-A

Abstract

데이터 처리 시설, 데이터 저장 시설 및 메시지 교환 시설을 포함하는 신경망 프로세서 시설을 포함하는 이벤트 기반 신경망 프로세서(1)가 제공된다. 이벤트 기반 신경망 프로세서(1)는 신경망 계층에 논리적으로 구성된 신경망 요소를 갖는 신경망을 실행하도록 구성된다. 신경망 계층은 적어도 소스 신경망 계층 및 현재 신경망 계층을 포함한다. 소스 신경망 계층은 복수의 소스 배치를 포함한다. 각 소스 배치는 소스 신경망 계층 내의 신경망 요소의 각각의 부분 집합이다. 현재 신경망 계층은 복수의 현재 배치를 포함한다. 각 현재 배치는 현재 신경망 계층 내의 신경망 요소의 각각의 부분 집합이다. 현재 신경망 계층(10C)의 현재 배치는 현재 배치의 하나 이상의 신경망 요소가 소스 신경망 계층의 하나 이상의 소스 배치 각각에 있는 하나 이상의 신경망 요소로부터 메시지를 수신하도록 구성된다는 점에서 소스 신경망 계층(10S)의 각각의 하나 이상의 소스 배치와 연관된다. 이벤트 기반 신경망 프로세서(1)는, 1보다 크고 현재 신경망 계층의 현재 배치의 수보다 작은, 다수의 현재 배치에 동적으로 할당되는 임시 저장 공간(30C)을 적어도 갖는다. 임시 저장 공간은 둘 이상의 현재 배치에 동적으로 할당된다. 개선된 프로세서와 방법은 메모리 요구사항의 감소를 제공한다.

Inventors

  • 피레스 도스 레이스 모레이라, 올란도 미구엘
  • 밤베르크, 레나르트

Assignees

  • 스냅 인코포레이티드

Dates

Publication Date
20260506
Application Date
20221222
Priority Date
20211222

Claims (20)

  1. 이벤트 기반 신경망 프로세서에 있어서: 신경망 계층에 구성된 신경망 요소를 갖는 신경망을 실행하도록 구성되며, 상기 신경망 계층은 소스 신경망 계층, 현재 신경망 계층 및 대상 신경망 계층을 포함하고, 상기 이벤트 기반 신경망 프로세서는: 현재 배치에 상기 이벤트 기반 신경망 프로세서의 임시 저장 공간의 섹션을 동적으로 할당하는 것, 이때 상기 현재 배치는 상기 소스 신경망 계층의 하나 이상의 소스 배치 및 상기 대상 신경망 계층의 하나 이상의 대상 배치와 연관되며, 상기 현재 배치의 하나 이상의 신경망 요소가 상기 소스 신경망 계층의 하나 이상의 소스 배치에 있는 하나 이상의 신경망 요소로부터 메시지를 수신하도록 구성되고, 상기 대상 신경망 계층의 하나 이상의 대상 배치에 있는 하나 이상의 신경망 요소로 메시지를 전송하도록 구성되며; 상기 현재 배치를 어드레싱하는 소스 배치로부터 제1 이벤트 메시지를 수신하는 것; 상기 임시 저장 공간의 동적으로 할당된 섹션을 사용하여 상기 제1 이벤트 메시지의 수신에 기반하여 상기 현재 배치에서 하나 이상의 신경망 요소의 뉴런 상태 데이터를 갱신하는 것; 상기 현재 배치에 대한 방출 조건이 충족되는지 결정하는 것, 이때 상기 방출 조건은 상기 이벤트 기반 신경망 프로세서의 추가 임시 저장 공간의 섹션이 상기 현재 배치와 연관된 하나 이상의 대상 배치 각각에 동적으로 할당되는 것이고; 상기 현재 배치에 대한 방출 조건이 충족되는지의 결정에 응답하여, 상기 현재 배치의 각 신경망 요소에 대한 활성화 함수를 평가하는 것; 활성화 함수 결과가 0이 아닌 현재 배치의 각 신경망 요소에 대해, 상기 대상 신경망 계층과 연관된 대상으로 제2 이벤트 메시지를 발행하는 것; 상기 현재 배치에 일시적으로 할당되었던 임시 저장 공간의 상기 섹션을 해제하는 것; 상기 대상에 배치 종료(end of batch; EOB) 알림 메시지를 발행하는 것을 포함하는 작업을 수행하도록 구성되는 이벤트 기반 신경망 프로세서.
  2. 제1항에 있어서, 상기 이벤트 기반 신경망 프로세서는 메시지 큐를 구현하며, 상기 메시지 큐에서 상기 EOB 알림 메시지는 상기 제2 이벤트 메시지를 뒤따르는 이벤트 기반 신경망 프로세서.
  3. 제1항에 있어서, 상기 소스 신경망 계층의 각각의 신경망 요소의 뉴런 상태 데이터는 프레임 기반 방식으로 사용 가능하게 되며, 상기 현재 배치의 방출 조건은 상기 현재 배치와 연관된 하나 이상의 소스 배치 각각이 EOB 알림 메시지를 제출했다는 조건의 준수에 따라 추가로 충족되는 이벤트 기반 신경망 프로세서.
  4. 제1항에 있어서, 제1 데이터 프로세서 코어, 제2 데이터 프로세서 코어 및 제3 데이터 프로세서 코어를 추가로 포함하며, 상기 제1 데이터 프로세서 코어는 상기 현재 배치와 연관된 복수의 소스 배치에 대하여 상기 소스 배치의 미리 결정된 순서에 따라 데이터 처리를 수행하도록 구성되고, 상기 제2 데이터 프로세서 코어는 상기 현재 배치에 대한 데이터 처리를 수행하도록 구성되며, 상기 제3 데이터 프로세서 코어는 상기 현재 배치와 연관된 대상 배치에 대한 데이터 처리를 수행하도록 구성되는 이벤트 기반 신경망 프로세서.
  5. 제1항에 있어서, 특정 배치의 방출을 활성화하도록 구성된 방출 트리거 모듈을 추가로 포함하는 이벤트 기반 신경망 프로세서.
  6. 제5항에 있어서, 복수의 신경망 프로세서 유닛을 추가로 포함하며, 각 신경망 프로세서 유닛은 선행 신경망 계층 또는 후속 신경망 계층으로부터의 EOB 신호와 결합하여 상기 방출 트리거 모듈로부터 발행되는 배치 트리거 신호에 따라 특정 배치의 방출을 활성화하도록 구성되는 이벤트 기반 신경망 프로세서.
  7. 제5항에 있어서, 상기 방출 트리거 모듈은 주기적 신호를 포함하는 배치 트리거 신호를 발행하도록 구성되고, 각 주기 동안 상기 배치 트리거 신호는 방출이활성화되는 순서대로 배치를 나타내는 이벤트 기반 신경망 프로세서.
  8. 제1항에 있어서, 상기 소스 신경망 계층에 구성된 각각의 신경망 요소에 대해 미리 결정되지 않은 임의의 순서로 이벤트 메시지를 수신하도록 구성되고, 수신된 이벤트 메시지를 각 주기의 각각의 상호 후속 갱신 단계에서 각각의 상호 후속 소스 배치에 대해 상기 소스 신경망 계층으로 주기적으로 전달하여 수신된 이벤트 메시지를 재정렬하도록 구성되는, 메시지 버퍼를 추가로 포함하는 이벤트 기반 신경망 프로세서.
  9. 제8항에 있어서, 상기 메시지 버퍼는 이벤트 기반 센서 어레이로부터 상기 이벤트 메시지를 수신하도록 구성되는 이벤트 기반 신경망 프로세서.
  10. 제1항에 있어서, 현재 신경망 계층 내의 각각의 신경망 요소의 뉴런 상태 데이터를 저장하는 주 저장 공간을 추가로 포함하며, 상기 주 저장 공간에 저장되는 뉴런 상태 데이터가 상기 주 저장 공간에서 특징 맵을 정의하고, 임시 저장 공간은 주 저장 공간보다 작은 저장 용량을 갖는 이벤트 기반 신경망 프로세서.
  11. 이벤트 기반 신경망 처리 방법에 있어서: 현재 배치에 이벤트 기반 신경망 프로세서의 임시 저장 공간의 섹션을 동적으로 할당하는 것, 이때 상기 이벤트 기반 신경망 프로세서는 신경망 계층에 구성된 신경망 요소를 갖는 신경망을 실행하도록 구성되며, 상기 신경망 계층은 소스 신경망 계층, 현재 신경망 계층 및 대상 신경망 계층을 포함하고, 상기 현재 배치는 상기 소스 신경망 계층의 하나 이상의 소스 배치 및 상기 대상 신경망 계층의 하나 이상의 대상 배치와 연관되며, 상기 현재 배치의 하나 이상의 신경망 요소가 상기 소스 신경망 계층의 하나 이상의 소스 배치에 있는 하나 이상의 신경망 요소로부터 메시지를 수신하도록 구성되고, 상기 대상 신경망 계층의 하나 이상의 대상 배치에 있는 하나 이상의 신경망 요소로 메시지를 전송하도록 구성되며; 상기 현재 배치를 어드레싱하는 소스 배치로부터 제1 이벤트 메시지를 수신하는 것; 상기 임시 저장 공간의 동적으로 할당된 섹션을 사용하여 상기 제1 이벤트 메시지의 수신에 기반하여 상기 현재 배치에서 하나 이상의 신경망 요소의 뉴런 상태 데이터를 갱신하는 것; 상기 현재 배치에 대한 방출 조건이 충족되는지 결정하는 것, 이때 상기 방출 조건은 상기 이벤트 기반 신경망 프로세서의 추가 임시 저장 공간의 섹션이 상기 현재 배치와 연관된 하나 이상의 대상 배치 각각에 동적으로 할당되는 것이고; 상기 현재 배치에 대한 방출 조건이 충족되는지의 결정에 응답하여, 상기 현재 배치의 각 신경망 요소에 대한 활성화 함수를 평가하는 것; 활성화 함수 결과가 0이 아닌 현재 배치의 각 신경망 요소에 대해, 상기 대상 신경망 계층과 연관된 대상으로 제2 이벤트 메시지를 발행하는 것; 상기 현재 배치에 일시적으로 할당되었던 임시 저장 공간의 상기 섹션을 해제하는 것; 상기 대상에 배치 종료(end of batch; EOB) 알림 메시지를 발행하는 것을 포함하는 이벤트 기반 신경망 처리 방법.
  12. 제11항에 있어서, 상기 이벤트 기반 신경망 프로세서는 메시지 큐를 구현하며, 상기 메시지 큐에서 상기 EOB 알림 메시지는 상기 제2 이벤트 메시지를 뒤따르는 이벤트 기반 신경망 처리 방법.
  13. 제11항에 있어서, 상기 소스 신경망 계층의 각각의 신경망 요소의 뉴런 상태 데이터는 프레임 기반 방식으로 사용 가능하게 되며, 상기 현재 배치의 방출 조건은 상기 현재 배치와 연관된 하나 이상의 소스 배치 각각이 EOB 알림 메시지를 제출했다는 조건의 준수에 따라 추가로 충족되는 이벤트 기반 신경망 처리 방법.
  14. 제11항에 있어서, 상기 이벤트 기반 신경망 프로세서는 제1 데이터 프로세서 코어, 제2 데이터 프로세서 코어 및 제3 데이터 프로세서 코어를 포함하며, 상기 제1 데이터 프로세서 코어는 상기 현재 배치와 연관된 복수의 소스 배치에 대하여 상기 소스 배치의 미리 결정된 순서에 따라 데이터 처리를 수행하도록 구성되고, 상기 제2 데이터 프로세서 코어는 상기 현재 배치에 대한 데이터 처리를 수행하도록 구성되며, 상기 제3 데이터 프로세서 코어는 상기 현재 배치와 연관된 대상 배치에 대한 데이터 처리를 수행하도록 구성되는 이벤트 기반 신경망 처리 방법.
  15. 제11항에 있어서, 상기 이벤트 기반 신경망 프로세서는 특정 배치의 방출을 활성화하도록 구성된 방출 트리거 모듈을 포함하는 이벤트 기반 신경망 처리 방법.
  16. 제15항에 있어서, 상기 이벤트 기반 신경망 프로세서는 복수의 신경망 프로세서 유닛을 포함하며, 각 신경망 프로세서 유닛은 선행 신경망 계층 또는 후속 신경망 계층으로부터의 EOB 신호와 결합하여 상기 방출 트리거 모듈로부터 발행되는 배치 트리거 신호에 따라 특정 배치의 방출을 활성화하도록 구성되는 이벤트 기반 신경망 처리 방법.
  17. 제15항에 있어서, 상기 방출 트리거 모듈은 주기적 신호를 포함하는 배치 트리거 신호를 발행하도록 구성되고, 각 주기 동안 상기 배치 트리거 신호는 방출이활성화되는 순서대로 배치를 나타내는 이벤트 기반 신경망 처리 방법.
  18. 제11항에 있어서, 상기 이벤트 기반 신경망 프로세서는 상기 소스 신경망 계층에 구성된 각각의 신경망 요소에 대해 미리 결정되지 않은 임의의 순서로 이벤트 메시지를 수신하도록 구성되고, 수신된 이벤트 메시지를 각 주기의 각각의 상호 후속 갱신 단계에서 각각의 상호 후속 소스 배치에 대해 상기 소스 신경망 계층으로 주기적으로 전달하여 수신된 이벤트 메시지를 재정렬하도록 구성되는, 메시지 버퍼를 포함하는 이벤트 기반 신경망 처리 방법.
  19. 제18항에 있어서, 상기 메시지 버퍼는 이벤트 기반 센서 어레이로부터 상기 이벤트 메시지를 수신하도록 구성되는 이벤트 기반 신경망 처리 방법.
  20. 제11항에 있어서, 상기 이벤트 기반 신경망 프로세서는 현재 신경망 계층 내의 각각의 신경망 요소의 뉴런 상태 데이터를 저장하는 주 저장 공간을 포함하며, 상기 주 저장 공간에 저장되는 뉴런 상태 데이터가 상기 주 저장 공간에서 특징 맵을 정의하고, 임시 저장 공간은 주 저장 공간보다 작은 저장 용량을 갖는 이벤트 기반 신경망 처리 방법.

Description

이벤트 기반 신경망 프로세서 및 이벤트 기반 신경망 처리 방법 {Event-based neural network processor and event-based neural network processing method} 본 출원은 이벤트 기반 신경망 프로세서에 관한 것이다. 본 출원은 또한 이벤트 기반 신경망 처리 방법에 관한 것이다. 신경망 프로세서는 뇌의 뉴런이 작동하는 것과 유사한 방식으로 계산을 수행하도록 설계되었다. 신경망 프로세서는 뉴런을 메시지 전송 네트워크로 상호 연결된 신경망 요소로 모방한다. 흥분 상태에 도달한 신경망 요소는 연결된 신경망 요소에 출력 메시지를 전송하는데, 이는 생물학적 뉴런이 수신 생물학적 뉴런의 시냅스에 축삭돌기를 통해 스파이크를 전송하는 방식과 유사하다. 실제로, 신경망 요소의 각각의 집합은 신경망 요소에 필요한 계산 및 논리 연산의 수행을 담당하는 각각의 계산 및 제어 모듈을 공유한다. 신경망 요소는 모델링된 신경 동작을 갖는 프로세서 요소로서 논리적으로 기능하는 신경망 프로세서의 요소이다. 그러나 신경망 요소는 이러한 동작을 수행하기 위해 자체 데이터 처리 및 논리 기능 성능을 가질 필요는 없다. 일반적으로 신경망 요소의 클러스터는 프로세서 코어의 데이터 처리 및 논리 기능 설비와 프로세서 코어의 메시지 교환 설비과 같은 공통 설비를 공유한다. 모델링된 신경 동작에는 뉴런 상태에 따라 출력 메시지를 조건부로 전송하고 입력 메시지에 응답하여 뉴런 상태를 갱신하는 공유 공통 설비를 갖춘 신경망 요소의 성능이 포함된다. 신경망 프로세서의 논리적 구성은 구성된 요소의 상호 연결성에 의해 결정된다. 신경망 요소의 상호 연결성은 입력 메시지를 수신하도록 구성된 신경망 요소의 집합과 출력 메시지를 보낼 수 있는 신경망 요소의 집합에 의해 결정된다. 신경망 프로세서는 일반적으로 신경망 계층과 같은 복수의 신경망 클러스터로 논리적으로 구성되며, 각 신경망 계층은 복수의 신경망 요소를 포함한다. 신경망 계층에 구성된 신경망 요소는 논리적으로 선행하는 신경망 계층으로부터 입력 메시지를 수신하도록 구성되거나 및/또는 논리적으로 후행하는 신경망 계층에 출력 메시지를 전송하도록 구성된다. 신경망 계층에 구성된 신경망 요소는 일반적으로 동일한 연산, 예를 들어 콘볼루션 연산 또는 풀링 연산을 수행한다. 신경망 계층의 복수의 신경망 요소의 각각의 뉴런 상태는 함께 하나 이상의 특징 맵을 정의한다. 특징 맵은 공간 내 특징(채널)의 특징 값의 맵으로 간주할 수 있다. 예를 들어 2D RGB 이미지는 3개의 특징 맵의 집합으로 간주할 수 있으며, 특징 값은 각각 R, G, B 색상이다. 더 일반적인 경우, 특징 맵은 n차원 공간에서 m개의 특징 값으로 이루어진 맵이다. 프로세서 코어와 연관된 신경망 요소의 각 집합은 신경망 계층의 신경망 요소의 각각의 단일 집합에 대응할 수 있지만, 반드시 그럴 필요는 없다. 일부 경우에는 프로세서 코어와 연관된 신경망 요소 집합이 신경망 계층의 각각의 신경망 요소의 각각의 집합을 포함한다. 다른 경우에는 단일 신경망 계층의 신경망 요소 집합이 각각의 프로세서 코어에 분할되어 있다. 생물학적 신경망은 뉴런이 발화 뉴런으로부터 스파이크로 수신된 입력에 응답한다는 점에서 입력 중심적이다. 이렇게 하면 수신 뉴런이 활동 전위를 변경하고 활동 전위가 임계값을 초과하면 스파이크를 발생시켜 연결된 뉴런이 차례로 뉴런 상태를 변경하여 후속 스파이크를 일으킬 수 있다. 마찬가지로, 이벤트 기반 신경망에서 신경망 요소는 입력으로 수신된 이벤트 메시지에 응답한다. 이벤트 메시지는 공유된 각각의 계산 및 제어 모듈, 예를 들어 프로세서 코어에 의해 처리되어 수신 신경망 요소의 뉴런 상태를 갱신한다. 갱신된 뉴런 상태가 임계값에 도달하면, 공유된 각각의 계산 및 제어 모듈은 수신 신경망 요소를 대신하여 이벤트 메시지를 발행하고 뉴런 상태를 기준 값으로 재설정한다. 이벤트 메시지는 메시지 전송 네트워크를 통해 전송된다. 신경망 프로세서에서, 각 신경망 요소는 일반적으로 상태유지(stateful)이다. 이는 뉴런 상태(흔히 뉴런의 활동 전위로 지칭됨)가 각 신경망 요소에 대해 영구적으로 저장되는 것을 의미한다. 송신 신경망 요소로부터 이벤트 메시지를 수신하면 담당 계산 모듈은 그에 따라 수신 신경망 요소의 뉴런 상태를 수정한다. 예를 들어, 수신된 이벤트 메시지의 값에 수신 신경망 요소가 송신 신경망 요소에 부여한 가중치를 곱하고, 곱셈 결과를 수신 신경망 요소의 내부 상태에 더한다. 그런 다음, 일반적으로, 담당 계산 모듈은 활성화 조건이 충족되었는지, 즉 새로운 내부 상태가 출력 이벤트의 방출을 정당화할 만큼 이전 값에서 충분히 변경되었는지 여부를 확인한다. 이 조건은 내부 상태의 이전 값과 새로운 값의 변화가 특정 임계값을 초과하는지 확인하는 것과 같이 간단할 수 있다. 신경망 프로세서의 주요 한계 중 하나는 네트워크에 있는 모든 신경망 요소의 내부 상태를 모두 메모리에 저장해야 한다는 점이다. 이는 필요한 저장공간 용량을 매우 증가시키고 애플리케이션 매핑 옵션을 심하게 제한한다. 이벤트 기반 신경망 프로세서는 변화에 매우 빠르게 반응하고 이를 전파할 수 있다는 다른 관찰 결과가 있다. 그러나, 활성화 조건이 너무 민감-정확도 요구 사항으로 요구될 수 있음-할 경우, 시스템이 많은 이벤트 메시지를 전송하게 되고, 이로 인해 후속 계층 등에서 많은 이벤트 메시지가 발생하여, 메시지 교환 설비에 큰 부담을 주는 이벤트 메시지의 쇄도를 일으킬 수 있어, 잠재적으로 높은 비용이 발생할 수 있다. 이 문제는 같은 출원인이 출원한 PCT/EP2020/086846에 개시된 내화 메커니즘(refractory mechanism)과 같은 하드웨어 기술을 사용하여 해결할 수 있다. 이는 신경망 요소가 이벤트 메시지를 제출한 후에는 추가 이벤트 메시지를 전송하지 않고 갱신을 조용히 처리하는 쿨다운(cooldown) 기간을 갖는 것을 의미한다. 그러나 모든 내화 메커니즘은 중간 결과를 보관하기 위해 추가 저장공간이 필요하다. 이들 및 기타 양상을 도면을 참조하여 더 자세히 설명한다. 도 1은 개선된 이벤트 기반 신경망 프로세서의 일 실시예를 개략적으로 나타낸다. 도 2는 도 1의 실시예의 양상을 더 상세하게 도시한다. 도 3은 개선된 이벤트 기반 신경망 프로세서의 다른 실시예를 개략적으로 나타낸다. 도 4는 개선된 이벤트 기반 신경망 프로세서의 일 실시예 및 이벤트 기반 데이터 소스를 포함하는 이벤트 기반 신경망 시스템의 일 실시예를 나타낸다. 도 5는 개선된 이벤트 기반 신경망 방법의 일 실시예를 나타낸다. 도 1은 소스 신경망 계층(10S) 및 현재 신경망 계층(10C)과 함께, 대상 신경망 계층(10D)을 또한 포함하는 신경망 계층으로 논리적으로 구성된 신경망을 실행하도록 구성되는 이벤트 기반 신경망 프로세서(1)를 개략적으로 나타낸다. 이벤트 기반 신경망 프로세서(1)의 실제 실시예들은 상당히 더 많은 수의 신경망 계층을 갖는 신경망을 실행하도록 구성될 수 있다. 그러나, 본 발명의 원리를 설명하기 위한 목적으로, 프로세서에 의해 실행되는 신경망은 정확히 3개의 계층으로 구성되는 것으로 가정한다. 이 실시예에서, 각 신경망 계층에는 각각의 신경망 요소의 뉴런 상태 데이터를 저장하기 위한 각각의 주 저장 공간(20S, 20C, 20D)이 할당된다. 뉴런 상태 데이터의 전체는 각각의 주 저장 공간에 각각의 특징 맵을 정의한다. 각 신경망 계층(10S, 10C, 10D)은 주 저장 공간보다 작은 저장 용량을 가진 추가로 사용할 수 있는 적절한 임시 저장 공간(30S, 30C, 30D)을 갖는다. 예를 들어, 소스 신경망 계층(10S)의 임시 저장 공간(30S)은 주 저장 공간(20S)보다 작은 저장 용량을 갖는다. 임시 저장 공간은 해당 신경망 계층의 신경망 요소의 두 개 이상의 신경망 요소에 동적으로 할당되도록 구성되지만 모든 배치에 대해서는 아니다. 이하에서, "소스 배치", "현재 배치" 및 "대상 배치"라는 표현은 각각 소스 신경망 계층, 현재 신경망 계층 및 대상 신경망 계층에서 논리적으로 구성된 신경망 요소의 배치를 결정하는 데 사용된다. 도 1의 실시예에서 신경망 계층은 해당 계층의 모든 뉴런 상태 데이터를 저장하기 위한 주 저장 공간이 할당되어 있으며, “상태 유지(stateful)”로 표시된다. 다른 실시예에서, 신경망 계층 중 하나, 그 이상 또는 전부는 선택된 배치에 동적으로 할당하기 위한 임시 저장 공간만을 갖는다. 임시 저장 공간의 용량은 1보다 크지만 계층의 복수의 배치보다 적은 수의 배치를 동시에 저장할 수 있다. 임시 저장 공간만 있는 신경망 계층은 "무상태(stateless)"로 표시된다. 현재 배치는, 현재 배치의 하나 이상의 신경망 요소가 하나 이상의 소스 배치 각각에 있는 하나 이상의 신경망 요소로부터 메시지를 수신하도록 구성된다는 점에서, 각각의 상기 하나 이상의 소스 배치와 연관된다. 도시된 실시예에서, 현재 배치는 또한 현재 배치의 하나 이상의 신경망 요소가 하나 이상의 대상 배치 각각에 있는 하나 이상의 신경망 요소로 이벤트 메시지를 전송하도록 구성된다는 점에서 각각의 상기 하나 이상의 대상 배치와 연관된다. 이벤트 기반 신경망 프로세서(1)는 각 신경망 계층에 예약된 임시 저장 공간을 각 신경망 계층에 있는 두 개 이상의 신경망 요소 배치에 동적으로 할당하도록 구성된다. 도 1의 예에서, 40S, 40C, 40D로 표시되는 적절한 프로세서 코어는 각 신경망 계층(10S, 10C, 10D)과 연관된 계산 및 논리 연산을 수행하기 위해 제공된다. 위에서 언급한 바와 같이, 신경망 계층이 적절한 프로세서 코어와 연관되는 것이 필수적인 것은 아니다. 신경망 계층은 상호 연결 측면에서 신경망 요소의 논리적 구성을 지정하지만, 물리적 구현을 제한하지는 않는다. 신경망 계층에서 논리적으로 구성된 신경망 요소의 계산 및 저장 요구 사항에 따라, 프로세서 코어의 기능을 다른 신경망 계층과 공유하거나 복수의 프로세서 코어로 구현해야 할 수도 있다. 동작 시, 이벤트 기반 신경망 프로세서(1)는 현재 신경망 계층(10C)에서 신경망 요소의 각 현재